ความปลอดภัยของ AI: ความเสี่ยง ภัยคุกคาม และวิธีการรับมือ

อินฟอร์เมเทค ดิจิตอล » Recursos » ความปลอดภัยของ AI: ความเสี่ยง ภัยคุกคาม และวิธีการรับมือ

ปัญญาประดิษฐ์ได้แทรกซึมเข้าไปในทุกสิ่งทุกอย่างตั้งแต่รูปแบบการทำงานและการสื่อสาร ไปจนถึงการตัดสินใจด้านการเงิน การแพทย์ และการทหาร การมีอยู่มากมายนี้มีทั้งด้านบวกและด้านมืด หากระบบเหล่านี้ล้มเหลว ถูกบิดเบือน หรือถูกนำไปใช้ในทางที่ผิด ความเสียหายอาจมหาศาล ทั้งต่อบริษัทและสังคมโดยรวม

ในช่วงไม่กี่ปีที่ผ่านมาความกังวลของสาธารณชนเกี่ยวกับความเสี่ยงของปัญญาประดิษฐ์ (AI)เพิ่มขึ้นควบคู่ไปกับการนำ AI มาใช้ แบบสำรวจล่าสุดแสดงให้เห็นว่าคนส่วนใหญ่รู้สึกไม่สบายใจมากกว่าความกระตือรือร้นเกี่ยวกับการขยายตัวของ AI และประชาชนจำนวนมากคิดว่ามีความเป็นไปได้ที่ AI อาจก่อให้เกิดเหตุการณ์หายนะหากควบคุมไม่ได้ ในขณะเดียวกัน การวิจัยทางเทคนิคล้วนๆ ยังคงมุ่งเน้นไปที่การทำให้ AI มีประสิทธิภาพมากขึ้น โดยมีเพียงส่วนน้อยเท่านั้นที่ทุ่มเทให้กับการทำให้ AI ปลอดภัยและแข็งแกร่งยิ่งขึ้น

ความปลอดภัยของ AI หมายถึงอะไร และทำไมมันถึงสำคัญมาก?

เมื่อเราพูดถึงความปลอดภัยของปัญญาประดิษฐ์เราหมายถึงชุดของวิธีการ หลักการทางเทคนิคการควบคุมความปลอดภัยทางไซเบอร์และกรอบการกำกับดูแลที่ออกแบบมาเพื่อให้มั่นใจว่าระบบ AI มีความแข็งแกร่ง คาดการณ์ได้ ทนทานต่อการโจมตี และสอดคล้องกับเป้าหมายของมนุษย์ซึ่งรวมถึงการป้องกันแบบดั้งเดิม (การป้องกันการโจมตีทางไซเบอร์ การรั่วไหลของข้อมูล หรือการดัดแปลงแบบจำลอง) และประเด็นที่กว้างขึ้น เช่น อคติ การขาดความโปร่งใส และผลกระทบเชิงระบบที่อาจเกิดขึ้น

สำหรับภาคธุรกิจและหน่วยงานภาครัฐ ความปลอดภัยของ AI มีความสำคัญอย่างยิ่ง เนื่องจากมีการมอบหมายการตัดสินใจที่สำคัญมากขึ้นเรื่อยๆ ให้กับโมเดลเช่น การประเมินความเสี่ยงทางการเงิน การจัดลำดับความสำคัญทางการแพทย์ การจัดอันดับประวัติการทำงาน การวิเคราะห์ข้อมูลขนาดใหญ่ การทำงานอัตโนมัติของกระบวนการ และการตรวจจับภัยคุกคาม ความล้มเหลวร้ายแรง ช่องโหว่ หรือการใช้งานในทางที่ผิด อาจนำไปสู่ความสูญเสียหลายล้านดอลลาร์ การลงโทษทางกฎหมาย ความเสียหายต่อชื่อเสียง และในกรณีที่เลวร้ายที่สุด อาจเป็นภัยคุกคามต่อความมั่นคงของชาติ

ในระดับสังคมปัญญาประดิษฐ์ (AI) สามารถขยายความไม่เท่าเทียมและความอยุติธรรมได้หากไม่ได้รับการควบคุมอย่างเหมาะสม ระบบที่ไม่โปร่งใสหรือระบบที่ได้รับการฝึกฝนด้วยข้อมูลที่มีอคติสามารถเลือกปฏิบัติอย่างเป็นระบบต่อกลุ่มคนบางกลุ่ม เสริมสร้างการเฝ้าระวังในวงกว้าง หรืออำนวยความสะดวกในการเผยแพร่ข้อมูลเท็จในวงกว้าง และเมื่อมองไปข้างหน้า ความเป็นไปได้ที่จะเข้าถึงปัญญาประดิษฐ์ทั่วไป (AGI) หรือแม้กระทั่งปัญญาประดิษฐ์ขั้นสูง (ASI) ได้ก่อให้เกิดการถกเถียงเกี่ยวกับความเสี่ยงต่อการดำรงอยู่หากระบบเหล่านี้ไม่สอดคล้องกับค่านิยมของมนุษย์และหลุดพ้นจากการควบคุมที่มีประสิทธิภาพ

ผู้เชี่ยวชาญมีความเห็นไม่ตรงกันว่าความเสี่ยงใดเร่งด่วนหรือมีโอกาสเกิดขึ้นมากที่สุดแต่ก็มีความเห็นพ้องกันบ้างว่าโอกาสที่จะเกิดผลลัพธ์ที่เลวร้ายอย่างยิ่งนั้นไม่ใช่เรื่องเล็กน้อย การสำรวจนักวิจัยด้าน AI ประเมินว่ามีโอกาสประมาณ 5% ที่จะเกิดสถานการณ์เลวร้ายอย่างยิ่ง (เช่น การล่มสลายของอารยธรรม) ซึ่งเป็นผลมาจาก AI ขั้นสูง บางคนมองว่าความกังวลเหล่านี้เกินจริง ในขณะที่บางคนเชื่อว่าเนื่องจากความกังวลเหล่านี้ร้ายแรงมาก จึงควรเตรียมพร้อมรับมือและไม่ควรพึ่งพาการ "แก้ไขไปเรื่อยๆ"

ตั้งแต่ระบบเตือนภัยล่วงหน้าไปจนถึงวาระด้านความปลอดภัยของ AI ในยุคปัจจุบัน

แม้ว่าอาจดูเหมือนเป็นหัวข้อใหม่ แต่ความเสี่ยงของระบบอัตโนมัติอัจฉริยะนั้นได้รับการกล่าวถึงมาตั้งแต่ยุคเริ่มต้นของการคำนวณแล้ว ตั้งแต่ช่วงกลางศตวรรษที่ 20 บุคคลสำคัญอย่าง Norbert Wiener ได้เตือนว่า ยิ่งเรามอบความเป็นอิสระให้กับเครื่องจักรที่สามารถเรียนรู้จากประสบการณ์มากเท่าไร เราก็ยิ่งต้องยอมรับความเสี่ยงที่เครื่องจักรเหล่านั้นจะกระทำการขัดต่อความต้องการของเรามากขึ้นเท่านั้น

เมื่อเวลาผ่านไป ความกังวลเหล่านี้ก็ชัดเจนขึ้น ในช่วงปลายทศวรรษ 2000 สมาคมวิชาชีพต่างๆ เช่น AAAI ได้ส่งเสริมการศึกษาเกี่ยวกับผลกระทบทางสังคมในระยะยาวของ AI ข้อความโดยทั่วไปแสดงความสงสัยต่อข้อโต้แย้งที่ร้ายแรงเกินจริงในนิยายวิทยาศาสตร์ แต่ในขณะเดียวกันก็ยอมรับถึงความจำเป็นในการหาวิธีที่ดีกว่าในการตรวจสอบระบบที่ซับซ้อนและลดผลลัพธ์ที่ไม่คาดคิด ให้น้อยที่สุด

ในช่วงทศวรรษ 2010 การถกเถียงเรื่องนี้ทวีความรุนแรงขึ้น หนังสือที่มีอิทธิพลเกี่ยวกับปัญญาประดิษฐ์ขั้นสูงและความเสี่ยงที่อาจส่งผลกระทบต่อการดำรงอยู่ของมนุษยชาติ กระตุ้นให้เกิดศูนย์วิจัยใหม่ๆ ที่อุทิศให้กับการพัฒนาปัญญาประดิษฐ์ที่ “เป็นประโยชน์และเป็นมิตรกับมนุษย์” และโครงการเพื่อการกุศลต่างๆ ก็เกิดขึ้นเพื่อสนับสนุนโครงการเฉพาะด้านความปลอดภัยทางเทคนิค ผลกระทบทางสังคม และการสอดคล้องของเป้าหมาย ในขณะเดียวกันบุคคลสาธารณะอย่างเช่น อีลอน มัสก์ บิล เกตส์ และสตีเฟน ฮอว์คิงก็เริ่มพูดอย่างเปิดเผยเกี่ยวกับความเสี่ยงร้ายแรงหากปัญญาประดิษฐ์พัฒนาไปโดยปราศจากมาตรการป้องกัน

มีการจัดการประชุมระดับนานาชาติ เผยแพร่แผนงานวิจัยเกี่ยวกับ “ปัญหาด้านความปลอดภัยของ AI โดยเฉพาะ” และกำหนดหลักการต่างๆ เช่น หลักการของ Asilomar ซึ่งรวมถึงคำแนะนำที่ชัดเจน เช่น ความร่วมมือระหว่างทีมเพื่อหลีกเลี่ยงการลดมาตรฐานความปลอดภัย การวิเคราะห์ผลกระทบ ความโปร่งใสเท่าที่จะเป็นไปได้ เป็นต้น แนวทางการทำงานนี้ได้สร้างความแข็งแกร่งให้กับสาขาของตนเอง นั่นคือวิศวกรรมความปลอดภัยของ AIโดยมีเป้าหมายเพื่อคาดการณ์ความล้มเหลวและออกแบบระบบที่มีความปลอดภัยสูงสุดเท่าที่จะเป็นไปได้ก่อนการใช้งานในวงกว้าง

ในช่วงไม่กี่ปีที่ผ่านมารัฐบาลและหน่วยงานกำกับดูแลต่าง ๆ ได้เข้าร่วมในความพยายามนี้การประชุมเชิงปฏิบัติการที่จัดโดยทำเนียบขาว โครงการจากหน่วยงานของสหรัฐฯ (DARPA, IARPA, NSF) ยุทธศาสตร์ AI แห่งชาติของสหราชอาณาจักร และแนวทางจริยธรรมของจีน สะท้อนให้เห็นว่าความปลอดภัยของ AI ไม่ใช่เพียงแค่หัวข้อทางวิชาการอีกต่อไป แต่เป็นเรื่องของนโยบายสาธารณะ ในยุโรป กฎหมาย AI ​​Act ได้กำหนดข้อจำกัดที่ชัดเจนเกี่ยวกับการใช้งานบางอย่าง (เช่น การจดจำใบหน้าจำนวนมาก หรือการควบคุมจิตใต้สำนึก) และกำหนดข้อผูกพันเพิ่มเติมสำหรับแอปพลิเคชันที่มี "ความเสี่ยงสูง"

หัวข้อทางเทคนิคที่สำคัญ: ความทนทาน การตรวจสอบ และการจัดแนวให้สอดคล้องกัน

การวิจัยด้านความปลอดภัยของ AI โดยทั่วไปแบ่งออกเป็นสามด้านหลัก ได้แก่ความทนทาน การตรวจสอบ และการปรับให้สอดคล้องกันแต่ละด้านจัดการกับความเสี่ยงประเภทต่างๆ แต่ในทางปฏิบัติแล้วมีความเชื่อมโยงกันอย่างใกล้ชิด

ความทนทานของระบบมุ่งเน้นไปที่การทำงานอย่างสมเหตุสมผลของระบบ AI ในสถานการณ์ที่หลากหลาย รวมถึงสถานการณ์ที่ไม่ค่อยมีอยู่ในข้อมูลฝึกฝน ซึ่งรวมถึงการรับมือกับ "หงส์ดำ" (เหตุการณ์ที่เกิดขึ้นไม่บ่อยแต่สร้างความเสียหายอย่างร้ายแรง) และการโจมตีที่บุคคลใดบุคคลหนึ่งจงใจเปลี่ยนแปลงข้อมูลป้อนเข้าเพื่อทำให้เกิดข้อผิดพลาด

ตัวอย่างคลาสสิกของการขาดความแข็งแกร่งเมื่อเผชิญกับเหตุการณ์ที่เกิดขึ้นไม่บ่อยนักคือเหตุการณ์Flash Crash ในปี 2010ซึ่งระบบการซื้อขายอัตโนมัติได้ตอบสนองต่อความผิดปกติของตลาดอย่างผิดพลาดและทำให้เงินเกือบหนึ่งล้านล้านดอลลาร์หายไปในเวลาเพียงไม่กี่นาที ในโลกแห่งความเป็นจริง ยานพาหนะอัตโนมัติยังคงดิ้นรนกับ "กรณีพิเศษ" เช่น สัญญาณไฟจราจรที่ผิดปกติ สภาพอากาศที่รุนแรง หรือการรวมกันของวัตถุที่แทบจะไม่ปรากฏในข้อมูลจริง

ในขณะเดียวกัน โมเดลการเรียนรู้เชิงลึกจำนวนมากก็พิสูจน์แล้วว่ามีความเปราะบางอย่างมากต่อตัวอย่างที่เป็นอันตราย (adversarial examples ) ซึ่งเป็นการเปลี่ยนแปลงเล็กน้อยในภาพ เสียง หรือข้อความ ที่แทบมองไม่เห็นด้วยตาเปล่า แต่กลับทำให้เกิดข้อผิดพลาดในการจำแนกประเภทได้อย่างแน่นอน สิ่งนี้ส่งผลกระทบต่อระบบการมองเห็น การรู้จำเสียงพูด และโมเดลภาษา ที่แย่ไปกว่านั้น มันไม่ใช่แค่เรื่องของการหลอกลวงโมเดล "หลัก" เท่านั้น แต่โมเดลการให้รางวัลหรือการประเมินผลที่ใช้ในการฝึกอบรมโมเดลอื่น ๆ ก็สามารถถูกใช้ประโยชน์เพื่อเพิ่มคะแนนอย่างไม่เป็นธรรมโดยไม่ปรับปรุงประสิทธิภาพในการทำงานที่ตั้งใจไว้จริง ๆ

การเฝ้าระวัง หมายถึงวิธีการตรวจจับตั้งแต่เนิ่นๆ เมื่อระบบ AI ล้มเหลว ถูกโจมตี หรือถูกนำไปใช้ในทางที่ผิด ซึ่งรวมถึงการปรับเทียบความเชื่อมั่น (เพื่อให้แน่ใจว่าความน่าจะเป็นที่แบบจำลองสร้างขึ้นนั้นสะท้อนถึงความน่าเชื่อถืออย่างถูกต้อง) การตรวจจับสิ่งที่อยู่นอกเหนือการกระจาย (เมื่อระบบพบเจอสิ่งที่ "แตกต่างมากเกินไป" จากสิ่งที่เคยพบมาก่อน) และการเฝ้าระวังการใช้งานที่อาจเป็นอันตราย

สุดท้าย นี้ การจัดวางให้สอดคล้องกันจะช่วยให้มั่นใจได้ว่าระบบที่ล้ำสมัยที่สุด โดยเฉพาะอย่างยิ่งระบบที่ทำการตัดสินใจที่มีผลกระทบสูงหรือมีความสามารถในการดำเนินการอย่างอิสระ จะมุ่งไปสู่เป้าหมายที่เราเห็นว่ายอมรับได้ และจะไม่พัฒนากลยุทธ์ที่เป็นอันตรายเพื่อให้บรรลุเป้าหมายเหล่านั้น ซึ่งเกี่ยวข้องกับแนวคิดต่างๆ เช่น การบรรจบกันของเครื่องมือ (แนวโน้มของตัวแทนขั้นสูงที่จะแสวงหาเป้าหมายระดับกลางที่คล้ายคลึงกัน) และความเสี่ยงของการสูญเสียการควบคุมเมื่อความสามารถสูงรวมเข้ากับความเป็นอิสระในวงกว้าง

ความโปร่งใส ความสามารถในการตีความ และม้าโทรจันในแบบจำลอง

หนึ่งในความท้าทายที่ใหญ่ที่สุดคือ ระบบ AI สมัยใหม่จำนวนมาก โดยเฉพาะโครงข่ายประสาทเทียมขนาดใหญ่ ทำงานเหมือนกล่องดำอย่างแท้จริงเรารู้ว่าอะไรถูกป้อนเข้าไปและอะไรออกมา แต่การทำความเข้าใจว่าทำไมพวกมันจึงตัดสินใจเช่นนั้น หรือรูปแบบภายในที่พวกมันใช้จริง ๆ นั้นไม่ใช่เรื่องง่ายเลย

การขาดความโปร่งใสนี้ขัดแย้งโดยตรงกับข้อกำหนดทางกฎหมายและจริยธรรมเกี่ยวกับการอธิบายได้ในด้านต่างๆ เช่น การให้สินเชื่อ การคัดเลือกบุคลากร และระบบยุติธรรม ซึ่งจำเป็นต้องชี้แจงเหตุผลว่าทำไมบุคคลใดบุคคลหนึ่งจึงได้รับการยอมรับหรือถูกปฏิเสธ นอกจากนี้ยังทำให้ยากต่อการตรวจสอบความล้มเหลวร้ายแรง ในเหตุการณ์ต่างๆ เช่น การชนกันจนถึงแก่ชีวิตกับรถยนต์ไร้คนขับ บางครั้งยากมากที่จะวิเคราะห์ว่าสัญญาณภายในใดบ้างที่นำไปสู่ความผิดพลาดในการรับรู้หรือการตัดสินใจ

นี่คือเหตุผลที่ ทำให้เกิด สาขาย่อยทั้งหมดของ เทคนิคการตีความและความโปร่งใสขึ้นมา บางเทคนิคเน้นไปที่การแสดงให้เห็นว่าส่วนใดของข้อมูลป้อนเข้าที่แบบจำลอง "พิจารณา" (ตัวอย่างเช่น พิกเซลหรือคำใดที่มีอิทธิพลต่อผลลัพธ์มากที่สุด) ในขณะที่บางเทคนิคเจาะลึกลงไปอีก โดยวิเคราะห์การแสดงผลภายในและการเชื่อมต่อระหว่างเซลล์ประสาท ในแบบจำลองอย่าง CLIP ได้มีการระบุเซลล์ประสาทที่ตอบสนองต่อทั้งคำว่า "แมงมุม" และภาพของสไปเดอร์แมน และในแบบจำลองภาษา ได้มีการศึกษาแบบแผนความสนใจและวงจรแบบวนซ้ำที่ดูเหมือนจะเข้ารหัสกฎทางไวยากรณ์หรือความสัมพันธ์ของข้อเท็จจริง

นอกจากจะช่วยให้เข้าใจและแก้ไขข้อผิดพลาดแล้ว เทคนิคเหล่านี้ยังช่วยให้สามารถแก้ไขโมเดลได้อย่างตรงจุดสามารถระบุพารามิเตอร์ที่เกี่ยวข้องกับเหตุการณ์เฉพาะ (ตัวอย่างเช่น เมืองที่ตั้งของอนุสาวรีย์ที่มีชื่อเสียง) และแก้ไขพารามิเตอร์เหล่านั้นเพื่อเปลี่ยนแปลงการตอบสนองอย่างเป็นระบบได้ แม้ว่าการทดลองเหล่านี้จะแสดงให้เห็นว่าสามารถทำให้เกิดข้อผิดพลาดได้เช่นกัน แต่ก็สามารถใช้วิธีการเดียวกันนี้ในการแก้ไขข้อผิดพลาดจำนวนมากโดยไม่จำเป็นต้องฝึกโมเดลใหม่ตั้งแต่เริ่มต้น

อีกประเด็นที่ละเอียดอ่อนคือโทรจันหรือแบ็กดอร์ในโมเดล AIหมายถึงสถานการณ์ที่ระหว่างการฝึกฝน มีคนนำรูปแบบเฉพาะเข้ามา ซึ่งเมื่อปรากฏในข้อมูลป้อนเข้า จะกระตุ้นให้เกิดพฤติกรรมที่แตกต่างไปจากปกติ ตัวอย่างเช่น ระบบจดจำใบหน้าที่อนุญาตให้เข้าถึงได้เฉพาะเมื่อบุคคลนั้นสวมใส่อุปกรณ์เสริมบางอย่าง หรือรถยนต์ไร้คนขับที่แสดงพฤติกรรมประมาทหากตรวจพบสติกเกอร์เฉพาะบนป้าย

สิ่งที่น่ากังวลคือ การเปลี่ยนแปลง ข้อมูลฝึกฝนเพียงเล็กน้อยก็ เพียงพอ ที่จะแทรกมัลแวร์ประเภทโทรจันเข้าไปได้ เนื่องจากโมเดลจำนวนมากได้รับการฝึกฝนด้วยข้อมูลสาธารณะจำนวนมาก จึงเป็นไปได้ที่จะเกิดสถานการณ์ที่ผู้โจมตีสามารถปนเปื้อนส่วนหนึ่งของชุดข้อมูลได้ โทรจันเหล่านี้ นอกจากจะเป็นช่องโหว่แล้ว ยังเป็นสนามทดสอบที่เหมาะสมสำหรับการพัฒนาเครื่องมือที่ดีกว่าในการตรวจสอบและตรวจจับพฤติกรรมที่เป็นอันตรายที่ซ่อนเร้นอีกด้วย

ความเสี่ยงเชิงโครงสร้าง การแข่งขัน และการกำกับดูแลระดับโลก

นอกเหนือจากการโจมตีเฉพาะเจาะจงหรือเหตุการณ์ที่เกิดขึ้นเป็นครั้งคราวแล้ว ยังมีความเสี่ยงเชิงระบบที่เกี่ยวข้องกับวิธีการจัดระเบียบระบบนิเวศของ AI ได้แก่ แรงกดดันด้านการแข่งขันระหว่างบริษัทและประเทศต่างๆ การขาดวัฒนธรรมด้านความปลอดภัย แรงจูงใจทางเศรษฐกิจในการเปิดตัวผลิตภัณฑ์ให้เร็วที่สุด และความไม่สมดุลระหว่างผู้โจมตีและผู้ป้องกันทางไซเบอร์

นักวิเคราะห์หลายคนชี้ให้เห็นว่า การมุ่งเน้นเฉพาะ “ความล้มเหลวทางเทคนิค” หรือ “การใช้งานผิดวิธีของบุคคล” นั้นไม่เพียงพอ เพราะห่วงโซ่สาเหตุที่นำไปสู่หายนะนั้นยาวกว่ามากพลวัตทางภูมิศาสตร์การเมืองในช่วงสงครามเย็น ซึ่งการตัดสินใจของบุคคลเพียงไม่กี่คนอาจทำให้ความขัดแย้งทางนิวเคลียร์ใกล้เข้ามาหรือไกลออกไปนั้น มักถูกนำมาเปรียบเทียบถึงสิ่งที่อาจเกิดขึ้นกับการแข่งขันที่ไร้ระเบียบในการพัฒนาระบบ AI ที่ทรงพลังยิ่งขึ้นเรื่อยๆ

ความกังวลที่เกิดขึ้นซ้ำๆ คือสิ่งที่เรียกว่า“การแข่งขันสู่เหว”กล่าวคือ หากภาคเอกชนหรือภาครัฐมองเห็นข้อได้เปรียบที่สำคัญในการเป็นคนแรก (ทางเศรษฐกิจ การทหาร หรือในแง่ของเกียรติยศ) พวกเขาอาจรู้สึกถูกบีบให้เร่งดำเนินการและลดการควบคุมด้านความมั่นคงลง แม้ว่าทุกคนจะยอมรับว่าความคืบหน้าที่ช้าลงจะดีกว่าก็ตาม การหลีกเลี่ยงพลวัตนี้จำเป็นต้องมีกลไกความร่วมมือ ความโปร่งใสซึ่งกันและกัน ข้อตกลงเกี่ยวกับมาตรฐานขั้นต่ำ และอาจรวมถึงสถาบันระหว่างประเทศใหม่ๆ ด้วย

ในขณะเดียวกันปัญหาความท้าทายระดับโลกในปัจจุบันหลายอย่างก็เป็นปัญหาด้านความร่วมมือเช่น การเปลี่ยนแปลงสภาพภูมิอากาศ ความเสี่ยงจากอาวุธนิวเคลียร์ อาวุธไซเบอร์ และอื่นๆ ปัญญาประดิษฐ์อาจทำให้ปัญหาเหล่านี้รุนแรงขึ้น (ตัวอย่างเช่น โดยการอำนวยความสะดวกให้เกิดการโจมตีทางไซเบอร์ที่ทรงพลังยิ่งขึ้น หรือการรณรงค์บิดเบือนทางการเมืองที่ซับซ้อนมากขึ้น) แต่ก็สามารถช่วยได้เช่นกัน โดยการจัดหาเครื่องมือที่ดีกว่าสำหรับการพยากรณ์ การวิเคราะห์สถานการณ์ และการตัดสินใจร่วมกัน

ดังนั้นจึงเกิดการรวมตัวกันของสาขาการกำกับดูแลปัญญาประดิษฐ์ (AI governance ) ซึ่งมุ่งเน้นการกำหนดกรอบการกำกับดูแล มาตรฐานทางเทคนิค แนวทางปฏิบัติทางธุรกิจที่ดีที่สุด และกลไกการตรวจสอบความรับผิดชอบ โดยครอบคลุมตั้งแต่ผลงานพื้นฐานที่เปรียบเทียบผลกระทบที่อาจเกิดขึ้นจาก AI กับเทคโนโลยีที่เปลี่ยนแปลงโลกในอดีต (เช่น ไฟฟ้าหรือเครื่องจักรไอน้ำ) ไปจนถึงข้อเสนอที่เป็นรูปธรรม เช่นการตรวจสอบจากภายนอก การให้รางวัลสำหรับการค้นพบข้อบกพร่อง ฐานข้อมูลเหตุการณ์สาธารณะ เกณฑ์ในการตัดสินใจว่าเมื่อใดจึงเหมาะสมที่จะเผยแพร่ผลลัพธ์หรือแบบจำลอง และข้อกำหนดด้านความปลอดภัยที่เข้มงวดมากขึ้นสำหรับห้องปฏิบัติการชั้นนำ

บทบาทของความปลอดภัยทางไซเบอร์: ปัญญาประดิษฐ์ (AI) ในการป้องกันและปกป้องตัว AI เอง

ในทางปฏิบัติและในชีวิตประจำวันปัญญาประดิษฐ์ (AI) ได้กลายเป็นส่วนสำคัญในด้านความปลอดภัยทางไซเบอร์ไปแล้วและความสัมพันธ์นี้เป็นไปในทั้งสองทาง: เราใช้ AI เพื่อป้องกันตัวเองได้ดียิ่งขึ้น และในขณะเดียวกันเราก็ต้องปกป้องระบบ AI เองจากการโจมตีด้วย

ในช่วงหลายทศวรรษที่ผ่านมา ภัยคุกคามทางไซเบอร์ได้พัฒนาจากการพยายามก่อกวนให้เห็นได้ชัดเจน ไปสู่การขโมยข้อมูล การแทรกซึมเข้าไปในระบบเป็นเวลาหลายเดือน และการแพร่กระจายมัลแวร์ที่ซ่อนตัวได้อย่างแนบเนียนเพื่อต่อสู้กับภัยคุกคามเหล่านี้ โซลูชันต่างๆ เช่น SIEM ซึ่งรวบรวมและวิเคราะห์บันทึกข้อมูลจำนวนมาก และ EDR ซึ่งตรวจสอบสิ่งที่เกิดขึ้นบนอุปกรณ์ทุกเครื่องขององค์กรอย่างต่อเนื่อง จึงได้รับความนิยม แต่ปัญหาคือปริมาณข้อมูลมีมากเกินกว่าที่ทีมงานจะตรวจสอบได้ด้วยตนเอง

นี่คือจุดที่การเรียนรู้ของเครื่องเข้ามามีบทบาท โดยมีความสามารถในการตรวจจับรูปแบบและความผิดปกติแบบเรียลไทม์จากชุดสัญญาณจำนวนมหาศาล เช่น ความพยายามในการเข้าสู่ระบบที่ผิดปกติ การเข้าถึงข้อมูลสำคัญโดยไม่ได้รับอนุญาต พฤติกรรมของกระบวนการที่แปลกประหลาด หรือการเชื่อมต่อกับโดเมนที่น่าสงสัย

แพลตฟอร์ม AI ในด้านความปลอดภัยยังถูกนำมาใช้เพื่อทำให้กระบวนการตอบสนองบางส่วนเป็นไปโดยอัตโนมัติเช่น การเชื่อมโยงการแจ้งเตือนที่เกี่ยวข้อง การสร้าง "เรื่องราว" ของการโจมตีขึ้นใหม่ การจัดลำดับความสำคัญของเหตุการณ์ที่จะตรวจสอบก่อน และในบางกรณี การดำเนินการเพื่อควบคุมสถานการณ์โดยตรง (เช่น การแยกเครื่อง การตัดการเชื่อมต่อ การเพิกถอนข้อมูลประจำตัวที่ถูกบุกรุก) ซึ่งจะช่วยลดข้อมูลที่ไม่จำเป็น ช่วยให้นักวิเคราะห์มุ่งเน้นไปที่สิ่งที่สำคัญ และลดระยะเวลาตั้งแต่ตรวจพบปัญหาจนถึงการดำเนินการที่มีประสิทธิภาพได้อย่างมาก

ในขณะเดียวกัน ความก้าวหน้าเดียวกันนี้ก็ถูกนำมาประยุกต์ใช้กับการปกป้องเครือข่ายและอุปกรณ์ปลายทางด้วยเช่นกัน ไฟร์วอลล์รุ่นใหม่ผสานรวมโมเดลที่วิเคราะห์การรับส่งข้อมูลเพื่อตรวจจับพฤติกรรมที่เป็นอันตราย อัปเดตกฎภายในแบบเรียลไทม์ หรือกำหนดค่าการแบ่งส่วนเครือข่ายใหม่เพื่อจำกัดการเคลื่อนที่ของแฮกเกอร์ ระบบตรวจจับการบุกรุก (EDR) ที่ได้รับการปรับปรุงด้วย AI ตรวจจับพฤติกรรมของกระบวนการที่ผิดปกติ (เช่น การเข้าถึงไฟล์สำคัญโดยไม่คาดคิด หรือลำดับการทำงานที่พบได้ทั่วไปในมัลแวร์เรียกค่าไถ่) ก่อนที่ความเสียหายจะแก้ไขไม่ได้

นอกจากนี้ ยังมีการเพิ่มขึ้นของระบบผู้ช่วยที่ใช้ภาษาธรรมชาติซึ่งผสานรวมเข้ากับเครื่องมือรักษาความปลอดภัยทางไซเบอร์ผู้ช่วย AI เหล่านี้ ช่วยให้ทีมรักษาความปลอดภัยสามารถตั้งคำถามที่ซับซ้อนได้ (“มีช่องทางการโจมตีใดบ้างที่สามารถเข้าถึงฐานข้อมูลนี้ได้”) และรับคำอธิบายตามบริบท สรุปเหตุการณ์ หรือข้อเสนอแนะในการแก้ไขปัญหาโดยไม่ต้องค้นหาข้อมูลในแดชบอร์ดหลายแห่งด้วยตนเอง

ผู้โจมตีใช้ AI อย่างไร

น่าเสียดายที่อาชญากรไซเบอร์ก็กระโดดเข้ามาใช้ AI อย่างเต็มตัวเช่นกันในฟอรัมใต้ดิน โมเดลใหม่ที่มีประสิทธิภาพทุกรุ่นที่ปรากฏขึ้นจะถูกวิเคราะห์ และมีการดัดแปลงเวอร์ชันต่างๆ เกิดขึ้น บางเวอร์ชันถูกออกแบบมาเพื่อกิจกรรมทางอาชญากรรมโดยเฉพาะ ปราศจากตัวกรองด้านจริยธรรม และได้รับการฝึกฝนให้เป็น "ผู้ช่วยในการแฮ็ก"

ในปัจจุบัน การใช้ประโยชน์จากโมเดลสร้างข้อมูลเพื่อทำให้กระบวนการทางอาชญากรรมเกือบทุกขั้นตอนเป็นไปโดยอัตโนมัติ นั้นค่อนข้างง่าย เช่น การเขียนอีเมลฟิชชิงจำนวนมากที่ไร้ที่ติและปรับแต่งได้ตามต้องการ การสร้างหน้าล็อกอินปลอมที่ดูน่าเชื่อถือมาก การสร้างสคริปต์หรือชุดเครื่องมือแรนซัมแวร์เพื่อขโมยข้อมูลประจำตัวการสร้างข้อความโน้มน้าวใจเพื่อใช้ในการหลอกลวงทางสังคม เป็นต้น

อีกประเด็นที่น่ากังวลคือความสามารถของ AI ในการสร้างเนื้อหาปลอมที่สมจริงอย่างยิ่งเครื่องมือสร้างข้อความช่วยให้สามารถสร้างบทความและข่าวปลอมที่เลียนแบบรูปแบบของสื่อมืออาชีพได้ ระบบสร้างวิดีโออย่าง deepfake สามารถแทนที่ใบหน้าในคลิปคุณภาพสูงได้ และการโคลนนิ่งเสียงทำให้สามารถสร้างเสียงของบุคคลขึ้นมาใหม่ได้ด้วยเสียงเพียงไม่กี่นาที

มีการบันทึก กรณี การฉ้อโกงทางโทรศัพท์โดยใช้เสียงเลียนแบบ สมาชิกในครอบครัวเพื่อเร่งเร้าให้โอนเงิน รวมถึงการรณรงค์ใส่ร้ายทางการเมืองและการบิดเบือนสื่อสังคมออนไลน์ที่ผสมผสานวิดีโอตัดต่อ เสียงปลอม และบอทที่สร้างขึ้นเพื่อขยายข้อความ ต้นทุนของเครื่องมือเหล่านี้ลดลงทุกปี ทำให้ผลตอบแทนจากการลงทุนสำหรับผู้โจมตีเพิ่มขึ้น

กล่าว โดยสรุป AI ช่วยเพิ่มขีดความสามารถในการโจมตีอย่างทวีคูณ: มันทำให้การโจมตีที่ซับซ้อนง่ายขึ้นและถูกลง ช่วยให้สามารถดำเนินแคมเปญขนาดใหญ่ได้ และทำให้การแยกแยะข้อมูลที่แท้จริงออกจากข้อมูลที่ถูกดัดแปลงทำได้ยากขึ้นดังนั้น การใช้ AI ในการป้องกันจึงไม่ใช่ทางเลือกอีกต่อไป: หากปราศจากระบบอัตโนมัติและสติปัญญา ทีมมนุษย์ก็ไม่สามารถตามทันได้

ความเสี่ยงด้านความปลอดภัยที่สำคัญเฉพาะด้าน AI

นอกเหนือจากความเสี่ยงด้านความปลอดภัยทางไซเบอร์โดยทั่วไปแล้ว การใช้งานระบบ AI ยังมีจุดอ่อนเฉพาะตัวที่ต้องทำความเข้าใจและจัดการ ซึ่งจุดอ่อนที่สำคัญที่สุดบางส่วนมีดังนี้:

การปน เปื้อนข้อมูลและแบบจำลองการนำข้อมูลที่เป็นอันตรายหรือถูกดัดแปลงเข้าไปในชุดข้อมูลฝึกฝนอาจทำให้พฤติกรรมของแบบจำลองผิดเพี้ยน แทรกช่องโหว่ หรือลดประสิทธิภาพโดยไม่ปรากฏให้เห็นในตัวชี้วัดมาตรฐาน ในสภาพแวดล้อมการเรียนรู้แบบกระจายศูนย์ ซึ่งมีผู้มีส่วนร่วมหลายฝ่ายในการฝึกฝน การตรวจจับว่าผู้เข้าร่วมรายใดจงใจนำข้อมูลรบกวนเข้ามานั้นเป็นเรื่องที่ท้าทายอย่างยิ่ง

ตัวอย่างที่เป็นอันตรายและการหลีกเลี่ยงการออกแบบอินพุตที่เปลี่ยนแปลงเล็กน้อยเพื่อกระตุ้นให้เกิดข้อผิดพลาดอย่างเป็นระบบ ช่วยให้ผู้โจมตีสามารถหลีกเลี่ยงระบบตรวจจับมัลแวร์ ตัวกรองสแปม ตัวจำแนกภาพ หรือกลไกการตรวจสอบความถูกต้องทางชีวเมตริกได้ เนื่องจากแบบจำลอง "เชื่อ" ว่าอินพุตนั้นเป็นปกติ การโจมตีประเภทนี้จึงยากที่จะบรรเทาได้โดยใช้เพียงกฎแบบดั้งเดิม

การกลับด้านแบบจำลองและการรั่วไหลของข้อมูลส่วนตัวผู้โจมตีสามารถสร้างข้อมูลเกี่ยวกับข้อมูลการฝึกอบรมขึ้นมาใหม่ได้ด้วยการสอบถามซ้ำๆ และการวิเคราะห์ผลลัพธ์ แม้กระทั่งสามารถอนุมานได้ว่ามีการรวมบันทึกเฉพาะใดไว้หรือไม่ หรือดึงข้อมูลส่วนที่ละเอียดอ่อนซึ่งจัดเก็บโดยแบบจำลองออกมาได้ ซึ่งก่อให้เกิดปัญหาอย่างร้ายแรงเมื่อทำการฝึกอบรมด้วยข้อมูลส่วนบุคคล ข้อมูลทางการแพทย์ หรือข้อมูลที่เป็นความลับ

การขโมยแบบจำลองและทรัพย์สินทางปัญญาการเรียกใช้ API ของ AI ในปริมาณมากทำให้สามารถสร้างแบบจำลองลอกเลียนแบบที่จำลองพฤติกรรมของแบบจำลองต้นฉบับได้อย่างใกล้เคียง ซึ่งเป็นการบ่อนทำลายรูปแบบธุรกิจของผู้ที่ให้บริการ AI และยิ่งไปกว่านั้น ยังสร้างสำเนาที่ผู้โจมตีสามารถควบคุมได้อย่างสมบูรณ์ รวมถึงความสามารถในการใช้ประโยชน์จากช่องโหว่ได้อย่างไม่จำกัด

การโจมตี API และโครงสร้างพื้นฐานอินเทอร์เฟซที่เชื่อมต่อโมเดล AIกับแอปพลิเคชันอื่นๆ เป็นจุดเริ่มต้นที่น่าดึงดูดใจมาก: การตรวจสอบสิทธิ์ที่อ่อนแอ การขาดการตรวจสอบความถูกต้องของข้อมูลเข้า การไม่มีการจำกัดความถี่หรือการตรวจสอบ อาจทำให้เกิดการโจมตีได้ทุกอย่าง ตั้งแต่การปฏิเสธการให้บริการ ไปจนถึงการดึงข้อมูลจำนวนมาก หรือการเรียกใช้โค้ดจากระยะไกล

การโจมตีแบบแทรกแซงและการใช้ช่องโหว่ใน GenAI กำลังเกิดขึ้นอย่างรวดเร็วในกรณีของแบบจำลองภาษาและผู้ช่วยสร้างข้อความ ช่องโหว่ที่กำลังเกิดขึ้นใหม่คือการแทรกคำสั่งโดยตรงหรือโดยอ้อมผู้โจมตีสามารถฝังคำสั่งที่เป็นอันตรายลงในข้อความอินพุตเอง (“ละเว้นกฎก่อนหน้าและ…”) หรือในเอกสารภายนอกที่แบบจำลองจะอ่าน โดยมีเป้าหมายเพื่อหลีกเลี่ยงข้อจำกัด ขโมยข้อมูล หรือดำเนินการที่ไม่พึงประสงค์

การใช้ประโยชน์ จากภาพลวงตาโมเดลสร้างข้อมูลสามารถสร้างข้อมูลเท็จได้อย่างแนบเนียน หากระบบเหล่านี้ถูกนำไปใช้โดยปราศจากการกำกับดูแลของมนุษย์ในบริบทที่สำคัญ หรือหากผู้โจมตีสามารถทำให้ภาพลวงตาบางอย่างดูเหมือนเป็น "ข้อเท็จจริง" ได้ มันจะเปิดประตูสู่การตัดสินใจที่ผิดพลาด ข้อมูลเท็จ และการสูญเสียความเชื่อมั่นในข้อมูลดิจิทัลอย่างกว้างขวาง

กรอบการทำงาน มาตรฐาน และแนวปฏิบัติที่ดีที่สุดเพื่อปัญญาประดิษฐ์ที่ปลอดภัยยิ่งขึ้น

เพื่อหลีกเลี่ยงการทำงานโดยปราศจากความรู้ความเข้าใจ องค์กรต่างๆ จึงได้เสนอโครงสร้างเฉพาะสำหรับการรักษาความปลอดภัย AIแม้ว่าโครงสร้างใดโครงสร้างหนึ่งจะไม่ครอบคลุมทุกด้านอย่างสมบูรณ์ แต่เมื่อรวมกันแล้ว โครงสร้างเหล่านั้นก็เป็นรากฐานที่มั่นคงในการสร้างกลยุทธ์ได้

ในบรรดาแนวทางเหล่านั้นกรอบการบริหารความเสี่ยงด้าน AI ของ NIST โดดเด่นเป็นพิเศษ โดยจัดโครงสร้างการทำงานไว้รอบ ๆ สี่ฟังก์ชัน ได้แก่ การกำกับดูแล (การกำหนดนโยบายและความรับผิดชอบ) การทำแผนที่ (การทำความเข้าใจบริบทและความเสี่ยง) การวัดผล (การประเมินประสิทธิภาพและการเปิดเผยข้อมูล) และการจัดการ (การจัดลำดับความสำคัญและการประยุกต์ใช้มาตรการควบคุม) ความพยายามอื่น ๆ เช่น เมทริกซ์ MITRE ATLAS รวบรวมกลยุทธ์และเทคนิคการโจมตีเฉพาะต่อระบบ AI คล้ายกับสิ่งที่ ATT&CK ทำกับภัยคุกคามแบบดั้งเดิม

ในด้านการประยุกต์ใช้จริง ชุมชนด้านความปลอดภัยได้พัฒนาลิสต์ต่างๆ เช่นOWASP Top 10 สำหรับ LLMซึ่งรวบรวมความเสี่ยงหลักๆ ในแอปพลิเคชันที่ใช้โมเดลภาษาขนาดใหญ่ ได้แก่ การแทรกข้อความแจ้งเตือน การเปิดเผยข้อมูล ช่องโหว่ในห่วงโซ่อุปทานของโมเดล การขโมยโมเดล เป็นต้น ผู้จำหน่ายรายใหญ่ได้เผยแพร่เฟรมเวิร์กของตนเอง (เช่น SAIF ของ Google) พร้อมขั้นตอนที่เป็นรูปธรรมสำหรับการใช้งานระบบ AI อย่างปลอดภัยยิ่งขึ้น

นอกจากนี้ ยังมีแนวทางปฏิบัติที่เฉพาะเจาะจงและใช้งานได้จริงเกิดขึ้นมากมายสำหรับการใช้งาน GenAI ในสภาพแวดล้อมคลาวด์ เช่น กรอบการทำงาน การแยกผู้เช่าและผู้ใช้ที่แบ่งส่วนข้อมูล สิทธิ์ และช่องทางการสื่อสารอย่างระมัดระวัง เพื่อลดผลกระทบจากความล้มเหลวหรือการโจมตีที่อาจเกิดขึ้น แนวคิดคือการผสมผสานการควบคุมความปลอดภัยทางไซเบอร์แบบดั้งเดิม (การเข้ารหัส การจัดการข้อมูลประจำตัว การแบ่งส่วนเครือข่าย การจำกัดการเข้าถึง) เข้ากับมาตรการที่ปรับให้เหมาะสมกับลักษณะเฉพาะของ AI

จากข้อมูลนี้ ข้อเสนอแนะที่ถูกกล่าวซ้ำบ่อยที่สุด ได้แก่ การรับรองคุณภาพและความหลากหลายของข้อมูลสำหรับการฝึกอบรม การจัดการกับประเด็นด้านจริยธรรมโดยตรง (อคติ การยินยอม ความเป็นส่วนตัว) การทดสอบและปรับปรุงโมเดลอย่างสม่ำเสมอ และการกำหนดนโยบายความปลอดภัยเฉพาะสำหรับ AIที่สอดคล้องกับนโยบาย ICT ทั่วไป

ในขณะเดียวกัน โซลูชันประเภทใหม่ที่เรียกว่าAI Security Posture Management (AISPM) ก็กำลังเกิดขึ้น ซึ่งเทียบเท่ากับสิ่งที่ CSPM หมายถึงสำหรับระบบคลาวด์ ได้แก่ การจัดทำบัญชีรายการสินทรัพย์ AI การค้นหาการใช้งานที่ไม่ได้รับอนุญาต ("AI เงา") การประเมินการกำหนดค่า และการตรวจสอบการปฏิบัติตามนโยบายอย่างต่อเนื่อง

ทุกอย่างบ่งชี้ว่า เมื่อ AI ถูกบูรณาการเข้ากับโครงสร้างพื้นฐานที่สำคัญมากขึ้นเรื่อย ๆความปลอดภัยของ AI จะเปลี่ยนจาก "สิ่งเสริมที่น่าสนใจ" ไปสู่ข้อกำหนดพื้นฐานองค์กรที่ก้าวล้ำนำหน้า—โดยการจัดทำบัญชีระบบ AI ของตน กำหนดธรรมาภิบาลที่ชัดเจน บังคับใช้การควบคุมการเข้าถึงอย่างเข้มงวด ทดสอบโมเดลของตนด้วยการทดสอบการโจมตี และปรับตัวให้สอดคล้องกับกรอบการทำงานที่เป็นที่ยอมรับ—จะอยู่ในตำแหน่งที่ดีกว่ามากในการใช้ประโยชน์จากข้อดีของ AI โดยไม่ต้องเผชิญกับเรื่องที่ไม่คาดคิด และเหนือสิ่งอื่นใด พวกเขาจะมีความพร้อมมากกว่าในการรักษาความไว้วางใจของลูกค้า ผู้ใช้ และประชาชนในสภาพแวดล้อมที่การแยกแยะระหว่างสิ่งที่เป็นจริงและสิ่งที่ถูกบิดเบือนจะซับซ้อนมากขึ้นเรื่อย ๆ

บทความที่เกี่ยวข้อง:

แม่แบบที่ยืดหยุ่นสำหรับ CISO: คู่มือภาคปฏิบัติสำหรับการเป็นผู้นำด้านความปลอดภัยทางไซเบอร์