ความเป็นส่วนตัวในผู้ช่วยเสมือน: ความเสี่ยง ข้อมูล และวิธีการปกป้องตนเอง

อินฟอร์เมเทค ดิจิตอล » Recursos » ความเป็นส่วนตัวในผู้ช่วยเสมือน: ความเสี่ยง ข้อมูล และวิธีการปกป้องตนเอง

ผู้ช่วยเสมือนจริงได้แทรกซึมเข้ามาในบ้าน โทรศัพท์ และแม้แต่ที่ทำงานของเรา นำมาซึ่งความสะดวกสบายอย่างเหลือเชื่อและข้อกังวลด้านความเป็นส่วนตัวอย่างร้ายแรงเราขอให้ Alexa เปิดไฟ ขอให้ Siri เตือนเราเรื่องนัดหมาย หรือขอให้ Google Assistant บอกเส้นทาง แต่เราแทบจะไม่เคยคิดเลยว่าข้อมูลทั้งหมดที่เราทิ้งไว้จะถูกนำไปทำอะไร

ในขณะเดียวกัน บริษัทและนักพัฒนาต่างก็สร้างอินเทอร์เฟซการสนทนาที่มีประสิทธิภาพมากขึ้นเรื่อยๆ ตั้งแต่ แชทบอทบริการลูกค้าไปจนถึงผู้ช่วยด้านสุขภาพและการเงินทั้งหมดนี้ล้วนใช้ข้อมูลส่วนบุคคล ซึ่งส่วนใหญ่เป็นข้อมูลที่ละเอียดอ่อนมาก และทำงานภายใต้กรอบการควบคุมของ GDPR, LOPDGDD และกฎหมายคุ้มครองความเป็นส่วนตัวอื่นๆ นี่คือจุดที่เรื่องเริ่มซับซ้อน: เราจะใช้ประโยชน์จากเทคโนโลยีเหล่านี้ได้อย่างไรโดยไม่ต้องมอบชีวิตทั้งหมดของเราให้กับระบบคลาวด์?

ผู้ช่วยเสมือนคืออะไร และทำงานอย่างไร?

ผู้ช่วยเสียงอัจฉริยะ เช่นAmazon Alexa, Apple Siri, Google Assistant และ Cortanaเป็นระบบที่ใช้ปัญญาประดิษฐ์และการประมวลผลภาษาธรรมชาติ (NLP) ซึ่งช่วยให้คุณควบคุมอุปกรณ์และบริการต่างๆ ได้ด้วยเสียงของคุณ พบได้ในลำโพงอัจฉริยะ สมาร์ทโฟน คอมพิวเตอร์ รถยนต์ที่เชื่อมต่ออินเทอร์เน็ต และแม้แต่ระบบอินเตอร์คอม

การทำงานของระบบนี้อาศัยการผสมผสานระหว่างการรู้จำเสียงพูด โมเดลอะคูสติก เครือข่ายประสาทเทียมเชิงลึก และการประมวลผลบนคลาวด์ แม้ว่าจะมีทางเลือก AI ในระดับท้องถิ่นอยู่ ก็ตาม ขั้น ตอนการทำงานโดยทั่วไปสามารถเข้าใจได้เป็นหลายขั้นตอน แม้ว่าผู้ให้บริการแต่ละรายจะนำไปใช้ด้วยรายละเอียดปลีกย่อยที่แตกต่างกันออกไป

ประการแรก อุปกรณ์อยู่ในโหมดที่เรียกว่าโหมดฟังแบบพาสซีฟหรือโหมดสแตนด์บายมันไม่ได้ส่งเสียงทั้งหมดในห้องไปยังคลาวด์อย่างต่อเนื่อง แต่ไมโครโฟนยังคงทำงานอยู่เพื่อตรวจจับคำสั่งปลุก เช่น "Hey Siri," "OK Google," "Alexa" หรือคำสั่งใดก็ตามที่เหมาะสมสำหรับแต่ละระบบนิเวศ

ในการจดจำคำสั่งปลุกระบบผู้ช่วยจะใช้อัลกอริธึมในเครื่องเพื่อเปรียบเทียบเสียงที่บันทึกได้กับรูปแบบเสียงที่จัดเก็บไว้ในอุปกรณ์ เมื่อพบว่ามีความตรงกันเพียงพอ ผู้ช่วยก็จะเริ่มทำงาน และหลังจากนั้น คำสั่งเสียงจะถูกส่งไปยังระบบคลาวด์เพื่อประมวลผลต่อไป

เมื่อได้รับคำสั่งแล้ว เซิร์ฟเวอร์จะใช้โมเดลการรู้จำเสียงอัตโนมัติ (ซึ่งในอดีตได้รับแรงบันดาลใจจากเทคนิคต่างๆ เช่น โมเดล Hidden Markov และปัจจุบันได้รับการพัฒนาเพิ่มเติมด้วยโครงข่ายประสาทเทียมและการเรียนรู้เชิงลึก) เพื่อแปลงเสียงเป็นข้อความและทำความเข้าใจเจตนาของผู้ใช้ จากนั้นระบบจะดำเนินการตามคำสั่งนั้น เช่น ค้นหาข้อมูล ตรวจสอบสภาพอากาศ เปิดหลอดไฟอัจฉริยะ โทรออก จัดการปฏิทิน หรือตอบคำถามที่ซับซ้อน

ในขณะเดียวกัน ผู้ช่วยอัจฉริยะหลายตัวใช้การเรียนรู้ของเครื่องจักรและการวิเคราะห์รูปแบบเสียงเพื่อปรับปรุงความแม่นยำและปรับแต่งประสบการณ์ให้เหมาะสมกับแต่ละบุคคล เช่น การจดจำเสียงที่แตกต่างกันในบ้านหลังเดียวกัน การปรับการตอบสนองให้เข้ากับผู้ใช้แต่ละคน หรือการปรับการจดจำให้ดียิ่งขึ้นตามสำเนียง น้ำเสียง หรือความเร็วในการพูด

ประวัติความเป็นมาเล็กน้อย: จากออเดรย์ถึงอเล็กซาและผองเพื่อน

เทคโนโลยีการจดจำเสียงไม่ได้เริ่มต้นจากลำโพงอัจฉริยะ แต่ได้รับการพัฒนามานานหลายทศวรรษแล้ว ในช่วงต้นทศวรรษ 50 เบลล์แล็บส์ได้เปิดตัว"ออเดรย์ " ระบบที่สามารถจดจำตัวเลข 0 ถึง 9 ได้ด้วยความแม่นยำเกือบ 90% แต่เฉพาะเมื่อผู้สร้างเป็นผู้พูดเท่านั้น แม้จะเป็นระบบพื้นฐาน แต่ก็เป็นจุดเริ่มต้นของนวัตกรรมที่พัฒนาอย่างต่อเนื่อง

ในปี 1961 IBM ได้เปิดตัว Shoeboxเครื่องจักรที่เข้าใจไม่เพียงแต่ตัวเลขเท่านั้น แต่ยังรวมถึงคำสั่งพื้นฐาน แม้จะมีเสียงรบกวนและระดับเสียงที่แตกต่างกันบ้างก็ตาม ในช่วงทศวรรษ 70 โครงการต่างๆ เช่น Hearsay-I, Dragon และโดยเฉพาะอย่างยิ่งHarpyที่มหาวิทยาลัย Carnegie Mellon ได้สร้างความก้าวหน้าอย่างมาก: Harpy สามารถจดจำชุดคำขนาดใหญ่ด้วยอัตราความแม่นยำระหว่าง 83,5% ถึง 97,5% และสามารถทำได้กับผู้พูดหลายคน ซึ่งถือว่าน่าประทับใจมากในเวลานั้น

ในขณะเดียวกัน รากฐานทางทฤษฎีของแบบจำลองมาร์คอฟที่ซ่อนอยู่ (Hidden Markov Models หรือ HMMs) ก็กำลังถูกวางขึ้น ซึ่งจะถูกนำไปใช้ประโยชน์ในทศวรรษ 80 ด้วยความก้าวหน้าของพลังการประมวลผลของคอมพิวเตอร์ สิ่งนี้ทำให้ระบบเสียงสามารถปรับตัวให้เข้ากับการเปลี่ยนแปลงของคำพูดมนุษย์ได้ดีขึ้น

ในช่วงทศวรรษ 90 เทคโนโลยีอย่างDragonDictateได้นำเทคโนโลยีการจดจำเสียงมาสู่ผู้ใช้ทั่วไปในรูปแบบของซอฟต์แวร์เชิงพาณิชย์ จากนั้น การบูรณาการเข้ากับอุปกรณ์พกพา ตามมาด้วยการเติบโตอย่างรวดเร็วของปัญญาประดิษฐ์และการประมวลผลบนคลาวด์ ได้ปูทางไปสู่ผู้ช่วยอัจฉริยะในปัจจุบัน เช่น Alexa, Siri และ Google Assistant ซึ่งมีความเป็นธรรมชาติและสอดคล้องกับบริบทมากขึ้นเรื่อยๆ

ปัจจุบัน การวิจัยมุ่งเน้นไปที่ด้านต่างๆ เช่นการรู้จำเสียงพูดแบบเรียลไทม์ที่ปรับแต่งได้สูง และ รองรับหลาย ภาษา การวิเคราะห์น้ำเสียงทางอารมณ์ของผู้พูด และการให้การสนับสนุนทันทีสำหรับภาษาถิ่นของกลุ่มน้อย นอกจากนี้ยังมีข้อเสนอแนะว่าการคำนวณควอนตัมอาจช่วยเร่งกระบวนการเหล่านี้ให้เร็วขึ้นไปอีก ทำให้สามารถตอบสนองได้เกือบจะในทันทีในบริบทที่ซับซ้อนมาก

ผู้ช่วยเสมือนเก็บรวบรวมข้อมูลอะไรบ้าง?

ความสะดวกสบายในการพูดคุยกับอุปกรณ์นั้นมาพร้อมกับต้นทุน: ข้อมูลส่วนบุคคลจำนวนมหาศาลหมุนเวียนอยู่ระหว่างไมโครโฟน คลาวด์ และบริการต่างๆ มากมายผู้ช่วยเสมือนอย่าง Siri, Alexa, Google Assistant และ Cortana ทำงานด้วยเสียง บันทึกคำสั่ง และส่งไปยังเซิร์ฟเวอร์เพื่อประมวลผล ระหว่างทาง พวกมันจะบันทึก:

• การบันทึกเสียงรวมถึงการเปิดใช้งานโดยไม่ได้ตั้งใจและส่วนของบทสนทนาที่อยู่ติดกับคำสั่งนั้นด้วย
• ข้อมูลอุปกรณ์: ประเภทเทอร์มินัล, ระบบปฏิบัติการ, ตัวระบุ ที่อยู่ IPการตั้งค่าระดับภูมิภาค เป็นต้น
• ข้อมูลเชิงบริบท: ตำแหน่งที่ตั้งโดยประมาณหรือแม่นยำ (เมื่อใช้ GPS หรือ Wi-Fi), ประวัติการค้นหา, พฤติกรรมประจำวัน, การใช้งานแอปพลิเคชัน
• รายชื่อผู้ติดต่อ ปฏิทิน การแจ้งเตือน และการโทรเมื่อผู้ใช้ได้ให้สิทธิ์เหล่านั้นแล้ว
• ความชอบส่วนบุคคลและพฤติกรรมการบริโภคซึ่งอนุมานได้จากคำค้นหา การซื้อที่เชื่อมโยง เพลงที่ฟัง ซีรีส์ที่ดู ฯลฯ
• ข้อมูลจากบุคคลที่สาม ผู้ที่พูดคุยใกล้ๆ อุปกรณ์ หรือโต้ตอบกับอุปกรณ์นั้น แม้ว่าพวกเขาจะไม่ใช่เจ้าของก็ตาม

ข้อมูลทั้งหมดนี้ถูกนำมาใช้เพื่อปรับปรุงความแม่นยำ ปรับแต่งการตอบสนอง ฝึกฝนโมเดล AI และในหลายกรณีป้อนข้อมูลให้กับระบบกำหนดเป้าหมายและสร้างโปรไฟล์โฆษณาหากไม่ได้รับการจัดการอย่างเหมาะสม ความเสี่ยงของการนำไปใช้ในทางที่ละเมิดความเป็นส่วนตัวหรือผิดกฎหมายอย่างโจ่งแจ้งนั้นชัดเจน

การจัดเก็บ การประมวลผล และการสร้างโปรไฟล์เสียง

ในกรณีส่วนใหญ่ ข้อมูลเสียงไม่ได้อยู่แค่ในลำโพงหรือโทรศัพท์เท่านั้นคลิปเสียงจะถูกส่งไปยังเซิร์ฟเวอร์คลาวด์ซึ่งจะถูกจัดเก็บและประมวลผลอย่างละเอียด สิ่งนี้ช่วยให้บริษัทเทคโนโลยีสามารถปรับปรุงโมเดลการจดจำและประสิทธิภาพของผู้ช่วยเสมือนได้อย่างต่อเนื่อง และยังเปิดโอกาสให้สามารถวิเคราะห์พฤติกรรมของผู้ใช้ได้อย่างลึกซึ้งยิ่งขึ้นด้วย

ระบบสมัยใหม่ไม่ได้แค่ถอดเสียงสิ่งที่เราพูดเท่านั้น แต่ยังวิเคราะห์ลักษณะเฉพาะของเสียง (โทนเสียง ระดับเสียง จังหวะ การออกเสียง) เพื่อสร้างโปรไฟล์เสียงเฉพาะบุคคล ระบบไบโอเมตริกซ์เสียงนี้ใช้เพื่อแยกแยะผู้ใช้ภายในบ้านเดียวกัน ปรับแต่งการตอบกลับ หรือแม้กระทั่งให้การยืนยันตัวตนในบริการที่สำคัญ เช่น การธนาคารหรือการดูแลสุขภาพ

ข้อดีนั้นชัดเจน: ผู้ช่วยสามารถระบุได้ว่าใครกำลังพูดและปรับเปลี่ยนประสบการณ์ แนะนำเนื้อหาที่เหมาะสม หรือตอบสนองแตกต่างกันระหว่างผู้ใหญ่และเด็ก แต่ในขณะเดียวกันลักษณะเฉพาะของเสียงนี้ก็สามารถเปิดเผยข้อมูลที่ละเอียดอ่อนอย่างยิ่งได้เช่น อายุโดยประมาณ เพศ สภาพอารมณ์ ความเหนื่อยล้า และแม้แต่เบาะแสเกี่ยวกับสุขภาพ

นอกจากนี้ บริษัทต่างๆ มักเชื่อมโยงกิจกรรมการสั่งงานด้วยเสียงเข้ากับระบบนิเวศข้อมูลที่กว้างขึ้นเช่น บัญชีผู้ใช้ ประวัติสถานที่ อุปกรณ์สมาร์ทโฮม และแอปพลิเคชันของบุคคลที่สามที่เชื่อมโยงกัน (ตัวอย่างเช่น บริการสมาร์ทโฮม เพลง การเดินทาง หรือบริการเรียกรถอย่าง Uber หรือ Lyft) ด้วยวิธีนี้ ผู้ช่วยเสียงจึงกลายเป็นจุดศูนย์กลางในการรวบรวมข้อมูลเกี่ยวกับไลฟ์สไตล์ของผู้ใช้

หากปราศจากการเข้ารหัสที่แข็งแกร่ง การควบคุมการเข้าถึง และมาตรการปกปิดตัวตนหรือการใช้นามแฝงข้อมูลทั้งหมดนี้อาจกลายเป็นเป้าหมายที่น่าดึงดูดใจสำหรับอาชญากรไซเบอร์ หรือที่แย่กว่านั้นคือ อาจถูกนำไปใช้ในทางที่ไม่โปร่งใสเพื่อการโฆษณาที่รุนแรง หรือการตัดสินใจอัตโนมัติโดยที่ผู้ใช้ไม่รู้ตัว

กรณีศึกษาจริงที่ก่อให้เกิดความกังวล

ความกังวลของสังคมเกี่ยวกับความเป็นส่วนตัวของผู้ช่วยเสมือนไม่ใช่เรื่องสมมติ แต่เป็นผลมาจากเหตุการณ์เฉพาะเจาะจงและเป็นที่รับรู้กันอย่างกว้างขวางซึ่งปรากฏขึ้นในช่วงไม่กี่ปีที่ผ่านมา

หนึ่งในกรณีที่อื้อฉาวที่สุดเกิดขึ้นในปี 2019 เมื่อพนักงานรับจ้างของ Google คนหนึ่งได้ปล่อยบันทึกเสียงของ Google Assistantให้กับสื่อในเบลเยียม เช่น VRT NWS โดยอ้างว่าบันทึกเสียงเหล่านี้ถูกนำไปใช้เพื่อปรับปรุงคุณภาพการบริการผ่านการตรวจสอบโดยมนุษย์ แต่กลับมีบทสนทนาที่เป็นส่วนตัวอย่างมาก เช่น ความคิดเห็นเกี่ยวกับสุขภาพ ที่อยู่ทางไปรษณีย์ รายละเอียดชีวิตส่วนตัว...

หน่วยงานคุ้มครองข้อมูลของเบลเยียมเรียกร้องให้ Google ระงับการตรวจสอบโดยมนุษย์จนกว่าจะมีการรับประกันการคุ้มครองความเป็นส่วนตัวที่เพียงพอ คดีนี้เปิดเผยว่า แม้บริษัทต่างๆ จะอ้างว่ามีการตรวจสอบไฟล์เสียงด้วยตนเองเพียงส่วนน้อย แต่ตัวอย่างดังกล่าวอาจมีเนื้อหาที่ละเอียดอ่อนอย่างยิ่ง

อีกเหตุการณ์หนึ่งที่ก่อให้เกิดการถกเถียงคือคำให้การของนักอาชญาวิทยาคนหนึ่งที่ค้นพบไฟล์บันทึกเสียงในอุปกรณ์ Alexa ของเธอซึ่งไม่มีคำสั่งเรียกใช้งานนำหน้า กล่าวคือ บทสนทนาเหล่านั้นถูกบันทึกไว้โดยไม่มีคำสั่งโดยตรงที่ชัดเจน เช่น “Alexa”

งานวิจัยโดยมหาวิทยาลัยรูห์ร โบชุม และสถาบันแม็กซ์พลังค์เพื่อความปลอดภัยและความเป็นส่วนตัว ได้วิเคราะห์อุปกรณ์ 11 ชิ้นจากผู้ผลิตรายใหญ่ และบันทึกการเปิดใช้งานโดยไม่ตั้งใจหลายพันครั้งซึ่งเรียกว่าผลลัพธ์ที่ผิดพลาด (false positives) พวกเขาได้สรุปว่า ระบบจดจำเสียงเหล่านี้ ขึ้นอยู่กับการใช้งาน สามารถแยกแยะคำที่ใช้ในการเปิดใช้งานได้อย่างมีประสิทธิภาพมากหรือน้อย ส่งผลให้เกิดข้อผิดพลาดมากหรือน้อย และด้วยเหตุนี้ จึงมีความเสี่ยงที่จะเกิดการบันทึกเสียงที่ไม่พึงประสงค์มากหรือน้อยตามไปด้วย

กรณีเหล่านี้ตอกย้ำแนวคิดที่ว่า แม้เทคโนโลยีจะก้าวหน้าไปมาก แต่ความแม่นยำก็ยังไม่สมบูรณ์แบบ และความคลาดเคลื่อนนั้นส่งผลกระทบโดยตรงต่อความเป็นส่วนตัวการตรวจจับผิดพลาดแต่ละครั้งอาจเกี่ยวข้องกับส่วนหนึ่งของการสนทนาส่วนตัวที่ถูกจัดเก็บไว้ และอาจถูกตรวจสอบ รั่วไหล หรือตีความผิดได้

ระบบรักษาความปลอดภัยหลายชั้น: การตรวจสอบด้วยเสียง การตรวจจับการเคลื่อนไหว และปุ่มกด

ในอุปกรณ์ปัจจุบันหลายๆ รุ่น "ระบบรักษาความปลอดภัย" สำหรับการใช้งานผู้ช่วยเสมือนนั้น อาศัยเสียงเป็นหลักในการตรวจสอบยืนยันตัวตนเพียงอย่างเดียวซึ่งก่อให้เกิดปัญหาหลายประการ กล่าวคือ ใครก็ตามที่อยู่ใกล้ๆ อุปกรณ์สามารถพูดคุยกับอุปกรณ์ ขอข้อมูล หรือแม้กระทั่งดำเนินการใดๆ ที่อาจเป็นข้อมูลลับได้ หากไม่ได้ตั้งค่ามาตรการรักษาความปลอดภัยเพิ่มเติม

สถานการณ์ทั่วไป: ลำโพง Alexa ในบ้านร้างหรือบ้านพักตากอากาศที่ไม่มีคนเฝ้า หากมีใครเข้าไป พวกเขาสามารถขอข้อมูลจากผู้ช่วย ซื้อของ หรือควบคุมอุปกรณ์ IoT ได้ง่ายๆ เพียงแค่พูด โดยปกติแล้ว Alexa ไม่จำเป็นต้องให้เจ้าของเป็นเจ้าของลำโพง หากมันจดจำคำสั่งปลุกได้ มันก็จะทำงาน

จากสถานการณ์ดังกล่าว จึง มีการเสนอ แนวทางแก้ไขที่เรียกว่า ปุ่มรักษาความปลอดภัยเสมือน (Virtual Security Button หรือ VS Button)ซึ่งจะเพิ่มการตรวจสอบยืนยันอีกชั้นหนึ่งโดยอาศัยการเคลื่อนไหวของมนุษย์โดยใช้เทคโนโลยี Wi-Fi แนวคิดก็คือ ผู้ช่วยจะไม่เพียงแต่ฟังคำสั่งปลุกเท่านั้น แต่ยังตรวจจับการเคลื่อนไหวทั่วไปของบุคคลที่ได้รับอนุญาตในสภาพแวดล้อมนั้นด้วย

ปุ่ม VS นี้จะใช้การเปลี่ยนแปลงของสัญญาณ Wi-Fi เพื่อระบุการมีอยู่และการเคลื่อนไหวของบุคคลเมื่อรวมกับการควบคุมด้วยเสียง จะช่วยบล็อกการเข้าถึงได้ เช่น เมื่อตรวจไม่พบเจ้าของอุปกรณ์ หรือเมื่อมีการเคลื่อนไหวที่น่าสงสัย ซึ่งจะช่วยลดความเสี่ยงในสถานการณ์ต่างๆ เช่น การโจรกรรมบ้านที่มีระบบล็อคอัจฉริยะ

ในขณะเดียวกัน ผู้ช่วยอัจฉริยะบางตัวก็มีปุ่มควบคุมทางกายภาพที่เรียบง่ายแต่มีความสำคัญอย่างยิ่งเช่น ปุ่มปิดเสียงไมโครโฟนหรือปิดการฟังต่อเนื่อง แม้ว่าผู้ใช้หลายคนจะให้ความสำคัญกับความสะดวกสบายและเปิดใช้งานคุณสมบัติเหล่านี้ไว้ตลอดเวลา แต่จากมุมมองด้านความปลอดภัยและความเป็นส่วนตัว ควรทำความเข้าใจวิธีการทำงานของคุณสมบัติเหล่านี้อย่างถ่องแท้และใช้เฉพาะเมื่อจำเป็นเท่านั้น

ความเป็นส่วนตัวถูกออกแบบมาโดยเจตนาและโดยค่าเริ่มต้นในอินเทอร์เฟซการสนทนา

จากมุมมองด้านกฎหมายและสถาปัตยกรรมระบบ แนวคิดหลักคือความเป็นส่วนตัวตั้งแต่ขั้นตอนการออกแบบและการตั้งค่าเริ่มต้นหมายความว่าการปกป้องข้อมูลไม่ได้ถูกเพิ่มเข้ามาภายหลังในลักษณะของการแก้ไขเพิ่มเติม แต่ถูกบูรณาการเข้ากับการออกแบบผลิตภัณฑ์ตั้งแต่ขั้นตอนการวางแนวคิด

การออกแบบโดยคำนึงถึงความเป็นส่วนตัว หมายความว่า ผู้พัฒนาผู้ช่วยเสมือนและแชทบอท จะพิจารณาตั้งแต่ร่างแรกสุดว่าข้อมูลใดจำเป็นอย่างแท้จริง จะปกป้องข้อมูลนั้นอย่างไร และจะปกป้องนานแค่ไหนไม่ใช่การเก็บรวบรวมทุกอย่าง "เผื่อไว้" แต่เป็นการวางแผนอย่างมีความรับผิดชอบ สิทธิบัตรและข้อเสนอทางกฎหมายบางฉบับกำหนดให้เทคโนโลยีอย่างปัญญาประดิษฐ์ต้องมีโหมดความเป็นส่วนตัวต่างๆ ที่ออกแบบมาเพื่อรองรับสถานการณ์ที่รุนแรงด้วย

หลักการสำคัญประการหนึ่งคือการลดปริมาณข้อมูลให้น้อยที่สุดกล่าวคือ เก็บรวบรวมเฉพาะข้อมูลที่จำเป็นต่อการทำงานของระบบเท่านั้น นอกจากนี้ยังเสริมด้วยเทคนิคการปกปิดตัวตนและการใช้นามแฝง เพื่อป้องกันไม่ให้ข้อมูลถูกเชื่อมโยงกับบุคคลใดบุคคลหนึ่งโดยไม่จำเป็น

สิ่งที่สำคัญไม่แพ้กันคือความโปร่งใสบ่อยครั้งที่ข้อกำหนดและเงื่อนไขที่เรายอมรับเมื่อตั้งค่าผู้ช่วยเสมือน—ข้อกำหนดและเงื่อนไขที่มีชื่อเสียงของ Apple, Google, Amazon หรือผู้ให้บริการรายอื่น ๆ—นั้นเขียนไว้คลุมเครือ ใช้ตัวอักษรขนาดเล็ก และครอบคลุมขอบเขตที่กว้างมากจนผู้ใช้ทั่วไปแทบไม่เข้าใจ

ความเป็นส่วนตัวโดยค่าเริ่มต้นหมายความว่าหากผู้ใช้ไม่ได้เปลี่ยนแปลงอะไรเลย การตั้งค่าเริ่มต้นควรให้การปกป้องมากที่สุดเท่าที่จะเป็นไปได้ไม่ใช่ในทางกลับกัน กล่าวคือ ระบบควรเริ่มต้นด้วยการเก็บรวบรวมข้อมูลให้น้อยที่สุด โดยปิดใช้งานประวัติการท่องเว็บหรือจำกัดการเก็บรักษา และขยายสิทธิ์การเข้าถึงก็ต่อเมื่อผู้ใช้ร้องขออย่างชัดเจนเท่านั้น

เมื่อผลิตภัณฑ์ไม่ได้ถูกออกแบบโดยคำนึงถึงความเป็นส่วนตัว ผู้ผลิตควรพิจารณาอย่างจริงจังที่จะปรับปรุง เพิ่มกรอบมาตรฐาน และการรับรองต่างๆเพื่อลดช่องว่างและความเสี่ยงด้านข้อมูล การใช้กรอบการทำงานร่วมกันกับผู้ช่วยเสมือนจะช่วยให้มั่นใจได้ว่าเราจะไม่พึ่งพาแต่เพียง "ความปรารถนาดี" ของแต่ละบริษัทเท่านั้น

ข้อผูกพันทางกฎหมาย: GDPR, LOPDGDD และข้อบังคับอื่นๆ

ในยุโรป กฎระเบียบหลักคือระเบียบว่าด้วยการคุ้มครองข้อมูลส่วนบุคคลทั่วไป (GDPR)ซึ่งในสเปนได้มีการเสริมด้วยกฎหมายว่าด้วยการคุ้มครองข้อมูลและการรับประกันสิทธิทางดิจิทัล (LOPDGDD) สำหรับบริษัทที่ผลิต ประกอบ หรือให้บริการที่ใช้ผู้ช่วยเสมือน กฎระเบียบเหล่านี้เป็นข้อบังคับ

ข้อผูกพันที่สำคัญที่สุดประการหนึ่งคือความเป็นส่วนตัวตั้งแต่ขั้นตอนการออกแบบและการตั้งค่าเริ่มต้น (มาตรา 25 ของ GDPR)ซึ่งเราได้กล่าวถึงไปแล้ว และการดำเนินการประเมินผลกระทบด้านการคุ้มครองข้อมูล (DPIA มาตรา 35 ของ GDPR)เมื่อมีการประมวลผลข้อมูลในปริมาณมากหรืออย่างเป็นระบบโดยใช้เทคโนโลยีที่สามารถบันทึกข้อมูลได้อย่างต่อเนื่อง เช่น ไมโครโฟนที่เปิดใช้งานตลอดเวลา

การยินยอมต้องเป็นการยินยอมโดยสมัครใจ มีข้อมูลครบถ้วน เฉพาะเจาะจง และไม่คลุมเครือผู้ใช้ต้องทราบว่ามีการเก็บรวบรวมข้อมูลอะไรบ้าง เพื่อวัตถุประสงค์อะไร นานแค่ไหน และจะแบ่งปันกับใครบ้าง นอกจากนี้ การยินยอมต้องสามารถเพิกถอนได้ตลอดเวลาผ่านกลไกที่ง่ายดาย

นโยบายจำกัดการจัดเก็บข้อมูล ก็เป็นสิ่งจำเป็นเช่นกัน กล่าวคือ ข้อมูลไม่สามารถเก็บไว้ได้ตลอดไปโดยไม่มีเหตุผล ต้องมีระยะเวลาการเก็บรักษาและขั้นตอนที่ชัดเจนสำหรับการลบข้อมูลอย่างปลอดภัยเมื่อข้อมูลนั้นไม่จำเป็นอีกต่อไป

สุดท้ายนี้ บริษัทต่างๆ ต้องมีโปรโตคอลการตอบสนองต่อเหตุการณ์ที่เกิดขึ้น: ในกรณีที่เกิดการละเมิดความปลอดภัย หน่วยงานกำกับดูแลจะต้องได้รับแจ้ง และในบางกรณี ผู้ใช้ที่ได้รับผลกระทบเองก็ต้องได้รับแจ้งด้วย เพื่อให้ดำเนินการแก้ไขความเสียหาย ในเขตอำนาจศาลอื่นๆ เช่น รัฐแคลิฟอร์เนียที่มีกฎหมาย CCPA ก็มีแนวทางที่คล้ายคลึงกัน คือ สิทธิในการรับรู้ว่ามีการเก็บรวบรวมข้อมูลใดบ้าง สิทธิในการขอให้ลบข้อมูล และสิทธิในการคัดค้านการปฏิบัติบางอย่างที่เกี่ยวข้องกับการขายหรือการโอนข้อมูล

ความเสี่ยงด้านความเป็นส่วนตัวและความปลอดภัยทั่วไป

การใช้งานผู้ช่วยเสมือนจริงอย่างแพร่หลายได้เพิ่มโอกาสที่ความเป็นส่วนตัวจะถูกละเมิด หนึ่งในปัญหาที่พบบ่อยที่สุดคือการเก็บรวบรวมข้อมูลโดยไม่เลือกปฏิบัติไมโครโฟนสามารถบันทึกบทสนทนาบางส่วนได้แม้ในขณะที่ผู้ใช้คิดว่าอุปกรณ์ไม่ได้ใช้งาน ซึ่งเป็นการละเมิดหลักการลดปริมาณข้อมูลของ GDPR

อีกหนึ่งความเสี่ยงที่เห็นได้ชัดคือการขาดความโปร่งใสไม่ชัดเจนเสมอไปว่ามีการนำบันทึกเสียงไปใช้ทำอะไรบ้าง ใครสามารถฟังได้บ้าง มีการแบ่งปันกับบุคคลที่สามหรือไม่ หรือมีการตรวจสอบด้วยตนเองหรือไม่ หากปราศจากข้อมูลเหล่านี้ ผู้ใช้ก็ไม่มีอำนาจควบคุมความเป็นส่วนตัวของตนเอง

การสร้างโปรไฟล์โดยไม่ได้รับความยินยอมอย่างแท้จริงเป็นอีกประเด็นสำคัญ โปรไฟล์พฤติกรรมที่มีรายละเอียดสูงสามารถสร้างขึ้นได้จากกิจกรรมของผู้ใช้ผ่านผู้ช่วยเสมือน ทำให้สามารถโฆษณาแบบเจาะกลุ่มเป้าหมาย ปรับราคาแบบไดนามิก หรือตัดสินใจโดยอัตโนมัติได้ หากผู้ใช้ไม่ได้ให้ความยินยอมอย่างชัดเจนในการใช้งานดังกล่าว ก็ถือเป็นการละเมิดกฎระเบียบ

นอกจากนี้ยังมีความเสี่ยงด้านความปลอดภัยทางไซเบอร์เช่น ช่องโหว่ของซอฟต์แวร์ รหัสผ่านที่อ่อนแอสำหรับบัญชีที่เกี่ยวข้อง เครือข่าย Wi-Fi ที่ไม่ปลอดภัย เป็นต้น ซึ่งทั้งหมดนี้อาจนำไปสู่การเข้าถึงโดยไม่ได้รับอนุญาตไปยังการบันทึก ประวัติการค้นหา ข้อมูลตำแหน่ง หรืออุปกรณ์ที่เชื่อมต่อกับผู้ช่วยเสมือนได้

สุดท้ายนี้ ยังมีประเด็นในทางปฏิบัติอีกประการหนึ่ง คือความยากลำบากในการใช้สิทธิบนแพลตฟอร์มขนาดใหญ่ที่มีฐานข้อมูลแบบกระจาย ผู้ใช้ไม่สามารถค้นหาข้อมูลของตนเอง ส่งออก ลบ หรือจำกัดการประมวลผลข้อมูลได้อย่างมีประสิทธิภาพเสมอไป แม้ว่ากฎหมายจะรับรองสิทธิเหล่านี้ก็ตาม

ขั้นตอนปฏิบัติเพื่อปกป้องความเป็นส่วนตัวของคุณเมื่อใช้ผู้ช่วยเสมือนจริง

แม้ว่าความรับผิดชอบส่วนใหญ่จะอยู่ที่บริษัทต่างๆ แต่ผู้ใช้ก็สามารถทำอะไรได้หลายอย่างเพื่อลดความเสี่ยงและควบคุมสิ่งต่างๆ ที่ตนเองแบ่งปันได้ดียิ่งขึ้นเมื่อใช้ Alexa, Siri, Google Assistant หรือระบบอื่นๆ ที่คล้ายกัน

ขั้นตอนแรกคือการตรวจสอบการตั้งค่าความเป็นส่วนตัวของอุปกรณ์ของคุณ อย่างละเอียด การตั้งค่าหลักช่วยให้คุณปรับวิธีการเก็บรวบรวมและใช้ข้อมูลของคุณได้ ในบรรดาตัวเลือกที่มีประโยชน์ที่สุด โปรดให้ความสนใจกับ:

• ปิดใช้งานหรือจำกัดพื้นที่จัดเก็บข้อมูลการบันทึกเสียงผู้ช่วยเสมือนหลายตัวอนุญาตให้คุณหยุดบันทึกการโต้ตอบลงในบัญชีของคุณ หรืออย่างน้อยก็ลดระยะเวลาการเก็บรักษาลงได้
• ตั้งค่าการลบอัตโนมัติ โดยจะบันทึกประวัติการสนทนาหลังจากช่วงเวลาหนึ่ง (เช่น 3 หรือ 18 เดือน) เพื่อไม่ให้การสนทนาที่สะสมมานานหลายปีไปกองอยู่ในระบบคลาวด์
• ตรวจสอบและลบไฟล์บันทึกเก่าด้วยตนเอง ผ่านแผงกิจกรรมหรือแอปพลิเคชันที่เกี่ยวข้อง
• ควบคุมว่าแอปพลิเคชันของบุคคลที่สามใดบ้างที่สามารถเข้าถึงได้ เข้าถึงข้อมูลของผู้ช่วยและเพิกถอนสิทธิ์ที่ไม่จำเป็น

นอกจากนี้ ควรเปลี่ยนรหัสผ่านสำหรับบัญชีที่เชื่อมโยงเป็นระยะ เปิดใช้งานการยืนยันตัวตนสองขั้นตอนทุกครั้งที่ทำได้ และตรวจสอบให้แน่ใจว่าอุปกรณ์เชื่อมต่อเฉพาะกับเครือข่าย Wi-Fi ที่ปลอดภัยเท่านั้น หลีกเลี่ยงเครือข่ายเปิดที่ไม่มีการเข้ารหัส

ข้อแนะนำพื้นฐานอีกประการหนึ่งคือควรหลีกเลี่ยงการแบ่งปันข้อมูลที่ละเอียดอ่อนเป็นพิเศษผ่านผู้ช่วยเสมือนเช่น ข้อมูลทางการแพทย์โดยละเอียด รหัสผ่าน หมายเลขเอกสาร หรือข้อมูลทางการเงิน แม้ว่าในทางเทคนิคแล้วจะสามารถทำได้ แต่ก็ไม่ใช่ช่องทางที่เหมาะสมที่สุด เว้นแต่จะเป็นโซลูชันที่ออกแบบมาเพื่อจุดประสงค์นี้โดยเฉพาะและมีมาตรการรักษาความปลอดภัยที่ได้รับการปรับปรุงให้ดีขึ้น

สุดท้ายนี้ หากคุณไม่ต้องการให้ลำโพงฟังอยู่ตลอดเวลา คุณสามารถปิดการสั่งงานด้วยเสียง ("Hey Siri," "Alexa" เป็นต้น) และใช้งานผู้ช่วยเสมือนเฉพาะเมื่อคุณเริ่มใช้งานด้วยตนเองเท่านั้น แม้ว่าจะไม่สะดวกเท่า แต่ก็ช่วยลดการเปิดใช้งานโดยไม่ตั้งใจได้มากทีเดียว

แนวปฏิบัติที่ดีที่สุดทางเทคนิคสำหรับนักพัฒนาและบริษัทต่างๆ

สำหรับผู้ที่ออกแบบหรือใช้งานอินเทอร์เฟซสนทนา ไม่ว่าจะเป็นผู้ช่วยด้านสุขภาพเสมือนจริง บอททางการเงิน หรือแชทบอทด้านทรัพยากรบุคคล ความเป็นส่วนตัวนั้นไม่ใช่เรื่องที่จะนึกถึงทีหลังได้ มันต้องเป็นเกณฑ์การออกแบบที่สำคัญเท่าเทียมกับความสามารถในการใช้งานหรือประสิทธิภาพ

จากมุมมองทางเทคนิค การเข้ารหัสแบบครบวงจร (end-to-end encryption)เป็นสิ่งจำเป็นอย่างยิ่งในการปกป้องข้อมูลระหว่างการส่งและจัดเก็บ ฐานข้อมูลที่มีประวัติเสียงหรือข้อมูลที่ละเอียดอ่อนจะต้องได้รับการปกป้องด้วยการควบคุมการเข้าถึงที่เข้มงวด บันทึกการตรวจสอบ และการแบ่งส่วนสิทธิ์

การใช้เทคนิคการปกปิดตัวตนและการใช้นามแฝงช่วยลดผลกระทบจากการรั่วไหลของข้อมูลได้: หากข้อมูลไม่ได้เชื่อมโยงโดยตรงกับบุคคลที่สามารถระบุตัวตนได้ ความเสี่ยงก็จะต่ำลง อย่างไรก็ตาม การปกปิดตัวตนจะต้องมีความแข็งแกร่ง ป้องกันไม่ให้สามารถระบุตัวตนผู้ใช้ได้อย่างง่ายดาย

ในระดับธุรกิจ จำเป็นอย่างยิ่งที่จะต้องกำหนดนโยบายที่ชัดเจนสำหรับการจัดการความยินยอมและการตั้งค่าความเป็นส่วนตัวผู้ใช้ควรสามารถยอมรับ ปฏิเสธ หรือแก้ไขตัวเลือกต่างๆ ได้อย่างง่ายดาย ด้วยอินเทอร์เฟซที่ไม่กระตุ้นให้ผู้ใช้เปิดเผยข้อมูลมากเกินไปโดยทางอ้อม ("รูปแบบที่ซ่อนเร้น")

การฝึกอบรมภายในองค์กรก็มีความสำคัญเช่นกัน: ทีมงานทั้งหมด ไม่ว่าจะเป็นนักพัฒนา ฝ่ายผลิตภัณฑ์ ฝ่ายการตลาด และฝ่ายสนับสนุน จำเป็นต้องได้รับการฝึกอบรมอย่างต่อเนื่องในเรื่องความเป็นส่วนตัว ความปลอดภัย และการปฏิบัติตามกฎระเบียบซึ่งจะช่วยหลีกเลี่ยงข้อผิดพลาดพื้นฐานและตรวจจับการออกแบบปฏิสัมพันธ์ที่อาจเป็นการบิดเบือนหรือซ่อนเร้นตั้งแต่เนิ่นๆ

การประยุกต์ใช้ในภาคส่วนต่างๆ: การดูแลสุขภาพ การเงิน และทรัพยากรบุคคล

เมื่อผู้ช่วยเสมือนจริงเข้ามามีบทบาทในภาคส่วนที่ละเอียดอ่อน เช่นสุขภาพการเงิน หรือการบริหารงานบุคคล ความต้องการความเป็นส่วนตัวก็จะเพิ่มสูงขึ้นอย่างมาก

ผู้ให้บริการด้านการดูแลสุขภาพที่เก็บรวบรวมอาการ การรักษา หรือข้อมูลทางคลินิกนั้น กำลังจัดการกับข้อมูลที่มีความละเอียดอ่อนเป็นพิเศษในกรณีเช่นนี้ การเข้ารหัสที่แข็งแกร่ง การปกปิดข้อมูลส่วนบุคคลอย่างเป็นระบบ และการขอความยินยอมอย่างชัดเจนและครบถ้วนเป็นสิ่งจำเป็น นอกจากนี้ ผู้ใช้ต้องมีอำนาจควบคุมอย่างชัดเจนว่าข้อมูลใดบ้างที่ถูกจัดเก็บ ใครบ้างที่สามารถดูข้อมูลนั้นได้ และพวกเขาสามารถเพิกถอนความยินยอมได้อย่างไร

ในภาคการเงิน ผู้ช่วยที่ช่วยให้ผู้ใช้ตรวจสอบบัญชี โอนเงิน หรือรับคำแนะนำด้านการลงทุนจำเป็นต้องผสานรวมระบบรักษาความปลอดภัยทางเทคนิคขั้นสูง (การเข้ารหัส การยืนยันตัวตนหลายปัจจัย การตรวจจับความผิดปกติ) เข้ากับนโยบายการลดปริมาณข้อมูลอย่างเข้มงวด การจัดเก็บข้อมูลเกินความจำเป็นหรือการผสมผสานข้อมูลทางการเงินกับข้อมูลเชิงพาณิชย์อื่น ๆ โดยไม่ได้รับความยินยอมอย่างละเอียดนั้นไม่มีประโยชน์

ในด้านทรัพยากรบุคคล แชทบอทภายในองค์กรสามารถจัดการคำขอลาพักร้อน การสอบถามเกี่ยวกับเงินเดือน หรือนโยบายภายในได้ แม้ว่าความเสี่ยงอาจดูต่ำกว่า แต่ก็ยังเกี่ยวข้องกับข้อมูลส่วนบุคคลของพนักงาน บริษัทต้องจำกัดการเข้าถึงระบบนี้ บันทึกว่าใครเข้าถึงข้อมูลอะไรบ้าง และตรวจสอบให้แน่ใจว่าการโต้ตอบจะไม่ถูกนำไปใช้ซ้ำเพื่อวัตถุประสงค์ที่ไม่เกี่ยวข้องกับความสัมพันธ์ในการจ้างงาน เว้นแต่จะมีพื้นฐานทางกฎหมายที่ชัดเจนในการทำเช่นนั้น

ในทุกกรณี การผสมผสานระหว่างการออกแบบอย่างมีจริยธรรม การปฏิบัติตามกฎระเบียบอย่างเคร่งครัด และความโปร่งใสกับผู้ใช้คือสิ่งที่สร้างความแตกต่างระหว่างโซลูชันที่มีประโยชน์กับระเบิดเวลาทางด้านชื่อเสียงและกฎหมาย

ผู้ช่วยเสมือนและอินเทอร์เฟซการสนทนาจะยังคงขยายตัวต่อไปทั้งที่บ้าน ที่ทำงาน และบริการทุกประเภท แต่การจัดการความเป็นส่วนตัวและความปลอดภัยของข้อมูลส่วนบุคคลในปัจจุบันจะเป็นตัวกำหนดว่าสิ่งเหล่านี้จะกลายเป็นพันธมิตรที่น่าเชื่อถือหรือเป็นแหล่งที่มาของความกังวลอย่างต่อเนื่อง การให้ความสำคัญกับความเป็นส่วนตัวตั้งแต่ขั้นตอนการออกแบบ การจำกัดการเก็บรวบรวมข้อมูลอย่างแท้จริง การใช้มาตรการรักษาความปลอดภัยที่แข็งแกร่ง และการเรียกร้องคำอธิบายที่ชัดเจนจากบริษัทเทคโนโลยี คือวิธีที่ดีที่สุดในปัจจุบันที่จะได้รับประโยชน์จากสิ่งเหล่านี้โดยไม่สูญเสียสิ่งพื้นฐานอย่างการควบคุมข้อมูลของเราเอง