Privasi dalam pembantu maya: risiko, data dan cara melindungi diri anda

Informatec Digital » Sumber » Privasi dalam pembantu maya: risiko, data dan cara melindungi diri anda

Pembantu maya telah menyusup masuk ke rumah, telefon, dan juga tempat kerja kita, membawa bersamanya gabungan kemudahan yang luar biasa dan kebimbangan privasi yang serius . Kita meminta Alexa untuk menghidupkan lampu, Siri untuk mengingatkan kita tentang temu janji, atau Google Assistant untuk arahan, tetapi kita jarang sekali memikirkan apa yang berlaku kepada semua maklumat yang kita tinggalkan.

Sementara itu, syarikat dan pembangun sedang membina antara muka perbualan yang semakin berkuasa , daripada bot sembang khidmat pelanggan kepada pembantu kesihatan dan kewangan . Semua ini menggunakan data peribadi, kebanyakannya sangat sensitif, dan beroperasi dalam landskap yang dikawal selia oleh GDPR, LOPDGDD dan undang-undang privasi yang lain. Di sinilah keadaan menjadi rumit: bagaimana kita boleh menikmati teknologi ini tanpa menyerahkan seluruh hidup kita kepada awan?

Apakah pembantu maya dan bagaimana ia berfungsi?

Pembantu suara seperti Amazon Alexa, Apple Siri, Google Assistant dan Cortana ialah sistem berasaskan kecerdasan buatan dan pemprosesan bahasa semula jadi (NLP) yang membolehkan anda mengawal peranti dan perkhidmatan menggunakan suara anda. Ia terdapat dalam pembesar suara pintar, telefon pintar, komputer, kereta yang disambungkan dan juga interkom.

Operasinya bergantung pada gabungan pengecaman pertuturan, model akustik, rangkaian saraf mendalam dan pengkomputeran awan , walaupun terdapat alternatif AI tempatan . Aliran kerja biasa boleh difahami dalam beberapa peringkat, walaupun setiap penyedia melaksanakannya dengan nuansa tersendiri.

Pertama, peranti ini berada dalam apa yang dipanggil mod pendengaran pasif atau mod siap sedia . Ia tidak menghantar semua audio bilik ke awan secara berterusan, tetapi ia memastikan mikrofon aktif untuk mengesan perkataan bangun: "Hey Siri," "OK Google," "Alexa," atau apa sahaja arahan yang sesuai untuk setiap ekosistem.

Untuk mengenali perkataan bangun, pembantu menjalankan algoritma tempatan yang membandingkan bunyi yang ditangkap dengan corak akustik yang disimpan pada peranti itu sendiri. Apabila mereka menentukan terdapat padanan yang mencukupi, pembantu diaktifkan dan dari ketika itu, arahan suara biasanya dihantar ke awan untuk diproses.

Sebaik sahaja arahan diterima, pelayan akan menggunakan model pengecaman pertuturan automatik (yang diilhamkan secara sejarah oleh teknik seperti Model Markov Tersembunyi dan kini dipertingkatkan oleh rangkaian saraf dan pembelajaran mendalam) untuk menukar audio kepada teks dan memahami niat pengguna. Berdasarkan ini, sistem akan melaksanakan tindakan yang sepadan: mencari maklumat, memeriksa cuaca, menghidupkan mentol pintar, memulakan panggilan, mengurus kalendar atau menjawab soalan yang rumit.

Secara selari, ramai pembantu menggunakan pembelajaran mesin dan analisis corak suara untuk meningkatkan ketepatan dan memperibadikan pengalaman: mengecam suara yang berbeza di rumah yang sama, menyesuaikan respons kepada setiap pengguna atau melaraskan pengecaman dengan lebih baik berdasarkan loghat, timbre atau kelajuan pertuturan.

Sedikit sejarah: dari Audrey hingga Alexa dan rakan-rakannya

Teknologi pengecaman suara tidak bermula dengan pembesar suara pintar; ia telah dibangunkan selama beberapa dekad. Pada awal 50-an, Bell Labs memperkenalkan "Audrey ," sebuah sistem yang mampu mengecam nombor 0 hingga 9 dengan ketepatan hampir 90%, tetapi hanya apabila disebut oleh penciptanya. Ia masih asas, tetapi ia menandakan permulaan barisan inovasi berterusan.

Pada tahun 1961, IBM melancarkan Shoebox , sebuah mesin yang bukan sahaja memahami nombor tetapi juga arahan asas, walaupun dengan sedikit hingar latar belakang dan variasi nada. Semasa tahun 70-an, projek seperti Hearsay-I, Dragon, dan terutamanya Harpy di Carnegie Mellon University, telah membuat lonjakan besar ke hadapan: Harpy boleh mengecam set perkataan yang besar dengan kadar ketepatan antara 83,5% dan 97,5%, dan ia berjaya melakukannya dengan berbilang pembesar suara, yang sangat mengagumkan pada masa itu.

Secara selari, asas teori Model Markov Tersembunyi (HMM) sedang diwujudkan , yang akan dieksploitasi pada tahun 80-an hasil daripada penambahbaikan dalam kuasa pemprosesan komputer. Ini membolehkan sistem suara mula menyesuaikan diri dengan lebih baik kepada variasi dalam pertuturan manusia.

Pada tahun 90-an, teknologi seperti DragonDictate telah membawa pengecaman suara kepada pengguna biasa dalam bentuk perisian komersial. Dari situ, penyepaduan ke dalam peranti mudah alih, diikuti dengan ledakan kecerdasan buatan dan pengkomputeran awan, membuka jalan kepada pembantu hari ini seperti Alexa, Siri dan Google Assistant, yang menjadi semakin semula jadi dan kontekstual.

Hari ini, penyelidikan tertumpu pada bidang seperti pengecaman pertuturan berbilang bahasa masa nyata, sangat diperibadikan, menganalisis nada emosi penutur dan menyediakan sokongan segera untuk dialek minoriti. Malah terdapat cadangan bahawa pengkomputeran kuantum boleh mempercepatkan lagi proses ini, mencapai tindak balas hampir serta-merta dalam konteks yang sangat kompleks.

Data apa yang dikumpul oleh pembantu maya?

Kemudahan bercakap dengan peranti datang dengan kos: sejumlah besar data peribadi beredar antara mikrofon, awan dan pelbagai perkhidmatan . Pembantu seperti Siri, Alexa, Google Assistant dan Cortana diaktifkan melalui arahan suara, merakam arahan dan menghantarnya ke pelayan untuk diproses. Sepanjang proses, ia menangkap:

• Rakaman suara, termasuk pengaktifan tidak sengaja dan serpihan perbualan bersebelahan dengan arahan.
• Data peranti: jenis terminal, sistem pengendalian, pengecam, Alamat IPtetapan serantau, dsb.
• Maklumat konteks: lokasi anggaran atau tepat (semasa menggunakan GPS atau Wi-Fi), sejarah carian, tabiat harian, penggunaan aplikasi.
• Kenalan, kalendar, peringatan dan panggilan, apabila pengguna telah memberikan kebenaran tersebut.
• Keutamaan peribadi dan tabiat penggunaan, disimpulkan daripada pertanyaan, pembelian yang dipautkan, muzik yang didengari, siri yang ditonton, dsb.
• Data pihak ketiga yang bercakap berhampiran peranti atau berinteraksi dengannya walaupun mereka bukan pemiliknya.

Semua data ini digunakan untuk meningkatkan ketepatan, memperibadikan respons, melatih model AI dan, dalam banyak kes, menyuapkan sistem penargetan dan pemprofilan pengiklanan . Jika tidak diuruskan dengan betul, risiko penggunaan yang mengganggu atau menyalahi undang-undang adalah jelas.

Penyimpanan, pemprosesan dan profil suara

Dalam kebanyakan kes, data suara bukan sahaja kekal pada pembesar suara atau telefon. Coretan audio dihantar ke pelayan awan , di mana ia disimpan dan diproses dengan terperinci. Ini membolehkan syarikat teknologi terus menambah baik model pengecaman dan prestasi pembantu mereka, tetapi ia juga membuka pintu kepada analisis tingkah laku pengguna yang sangat mendalam.

Sistem moden bukan sahaja menyalin apa yang kita katakan. Ia menganalisis ciri-ciri suara yang unik (timbre, pic, rentak, intonasi) untuk membina profil vokal yang unik. Biometrik suara ini digunakan untuk membezakan pengguna dalam isi rumah yang sama, memperibadikan respons atau menawarkan tahap pengesahan dalam perkhidmatan sensitif seperti perbankan atau penjagaan kesihatan.

Kelebihannya jelas: pembantu boleh mengenal pasti siapa yang bercakap dan menyesuaikan pengalaman, mengesyorkan kandungan yang disesuaikan atau memberi respons berbeza kepada orang dewasa dan kanak-kanak. Tetapi pada masa yang sama, tandatangan suara ini boleh mendedahkan maklumat yang sangat sensitif : anggaran umur, jantina, keadaan emosi, keletihan dan juga petunjuk berkaitan kesihatan.

Di samping itu, syarikat sering menghubungkan aktiviti suara dengan ekosistem data yang lebih luas : akaun pengguna, sejarah lokasi, peranti rumah yang disambungkan dan aplikasi pihak ketiga yang dipautkan (contohnya, perkhidmatan rumah pintar, muzik, perjalanan atau perkhidmatan perkongsian pengangkutan seperti Uber atau Lyft). Dengan cara ini, pembantu suara menjadi titik pusat untuk mengumpul data tentang gaya hidup pengguna.

Tanpa penyulitan, kawalan akses dan langkah-langkah penyamaran atau penyahnamaan yang mantap , keseluruhan gudang maklumat ini boleh menjadi sasaran yang sangat menarik bagi penjenayah siber atau, lebih buruk lagi, dieksploitasi dengan cara yang tidak jelas untuk pengiklanan yang agresif atau membuat keputusan automatik tanpa pengetahuan sebenar pengguna.

Kes sebenar yang telah menimbulkan kebimbangan

Kebimbangan sosial tentang privasi pembantu maya bukanlah sesuatu yang teoritis: ia didorong oleh insiden tertentu dan banyak dihebahkan yang telah terbongkar dalam beberapa tahun kebelakangan ini.

Salah satu kes paling terkenal berlaku pada tahun 2019, apabila seorang kontraktor Google membocorkan rakaman Google Assistant kepada saluran media Belgium seperti VRT NWS. Rakaman ini kononnya digunakan untuk meningkatkan kualiti perkhidmatan melalui semakan manusia, tetapi ia merangkumi perbualan yang sangat intim: komen tentang kesihatan, alamat pos, butiran kehidupan peribadi…

Pihak Berkuasa Perlindungan Data Belgium menuntut agar Google menggantung semakan manusia sehingga perlindungan privasi yang mencukupi dapat dijamin. Kes itu mendedahkan bahawa, walaupun syarikat-syarikat tersebut berhujah bahawa hanya sampel kecil fail audio yang disemak secara manual, sampel tersebut mungkin mengandungi kandungan yang sangat sensitif.

Satu lagi insiden yang mencetuskan perdebatan ialah keterangan seorang ahli kriminologi yang menemui rakaman pada peranti Alexa miliknya yang tidak didahului oleh perkataan bangun. Dalam erti kata lain, perbualan telah disimpan tanpa sebarang arahan langsung yang jelas seperti "Alexa".

Satu kajian oleh Universiti Ruhr Bochum dan Institut Keselamatan dan Privasi Max Planck menganalisis 11 peranti daripada pengeluar utama dan mendokumentasikan beribu-ribu pengaktifan yang tidak disengajakan , yang dikenali sebagai positif palsu. Mereka menyimpulkan bahawa sistem pengecaman suara ini, bergantung pada pelaksanaannya, boleh membezakan perkataan pengaktifan dengan lebih atau kurang berkesan, mengakibatkan lebih banyak atau kurang ralat dan, oleh itu, risiko rakaman yang tidak diingini lebih besar atau kurang.

Kes-kes ini mengukuhkan idea bahawa, walaupun teknologi sedang berkembang, ketepatannya tidak sempurna, dan margin ralat mempunyai akibat langsung terhadap privasi . Setiap positif palsu berpotensi melibatkan perbualan peribadi yang akhirnya disimpan dan boleh disemak, dibocorkan atau disalahtafsirkan.

Lapisan keselamatan: pengesahan suara, pengesanan gerakan dan butang fizikal

Pada banyak peranti semasa, "keselamatan" untuk menggunakan pembantu bergantung terutamanya pada suara sebagai satu-satunya lapisan pengesahan . Ini menimbulkan beberapa masalah: sesiapa sahaja yang berdekatan dengan peranti boleh bercakap dengannya, meminta maklumat atau melakukan tindakan yang berpotensi sensitif jika langkah keselamatan tambahan tidak dikonfigurasikan.

Senario biasa: pembesar suara Alexa di rumah kosong atau rumah percutian yang tidak dijaga. Jika seseorang masuk, mereka boleh meminta maklumat daripada pembantu, membuat pembelian atau mengawal peranti IoT hanya dengan bercakap. Secara reka bentuknya, Alexa tidak memerlukan pembesar suara menjadi pemiliknya; jika ia mengecam perkataan bangun, ia akan bertindak.

Berdasarkan senario ini, penyelesaian yang dikenali sebagai Butang Keselamatan Maya (butang VS) telah dicadangkan , yang akan menambah lapisan pengesahan kedua berdasarkan pergerakan manusia menggunakan teknologi Wi-Fi. Ideanya ialah pembantu bukan sahaja mendengar perkataan bangun tetapi juga mengesan pergerakan kinetik tipikal orang yang diberi kuasa dalam persekitaran.

Butang VS ini akan menggunakan variasi dalam isyarat Wi-Fi untuk mengenal pasti kehadiran dan pergerakan orang . Digabungkan dengan kawalan suara, ia akan membolehkan akses disekat apabila, sebagai contoh, pemilik peranti tidak dikesan atau apabila terdapat pergerakan yang mencurigakan, sekali gus mengurangkan risiko dalam senario seperti pecah rumah di rumah dengan kunci pintar.

Secara selari, sesetengah pembantu menggabungkan kawalan fizikal yang mudah tetapi sangat relevan , seperti butang untuk membisukan mikrofon atau melumpuhkan pendengaran berterusan. Walaupun ramai pengguna mengutamakan kemudahan dan membiarkan ciri-ciri ini sentiasa diaktifkan, dari sudut keselamatan dan privasi, adalah dinasihatkan untuk memahami sepenuhnya cara ia berfungsi dan menggunakannya hanya apabila perlu.

Privasi mengikut reka bentuk dan secara lalai dalam antara muka perbualan

Dari perspektif seni bina perundangan dan sistem, konsep utamanya ialah privasi melalui reka bentuk dan secara lalai . Ini bermakna perlindungan data tidak ditambah kemudian sebagai tampalan, tetapi disepadukan ke dalam reka bentuk produk itu sendiri dari fasa konsepsi.

Privasi melalui reka bentuk bermaksud pembangun pembantu maya dan chatbot mempertimbangkan, sejak draf pertama, data apa yang benar-benar diperlukan, bagaimana ia akan dilindungi dan berapa lama . Ia bukan tentang mengumpul semuanya "sekiranya berlaku", tetapi tentang merancang secara bertanggungjawab. Sesetengah paten dan cadangan kawal selia sudah memerlukan teknologi seperti kecerdasan buatan untuk memasukkan pelbagai mod privasi secara asli, yang direka bentuk walaupun untuk senario ekstrem.

Prinsip terasnya ialah peminimumkan data : hanya mengumpul data yang penting untuk sistem berfungsi. Ini dilengkapi dengan teknik anonimisasi dan pseudonimisasi, yang direka untuk mengelakkan data daripada mudah dikaitkan dengan orang tertentu apabila tidak diperlukan.

Ketelusan juga penting . Selalunya, terma dan syarat yang kita terima semasa menyediakan pembantu—"Terma dan Syarat" terkenal Apple, Google, Amazon atau mana-mana penyedia lain—ditulis dengan samar-samar, dengan cetakan kecil dan skop yang begitu luas sehingga pengguna biasa hampir tidak memahaminya.

Privasi secara lalai bermaksud, jika pengguna tidak mengubah apa-apa, tetapan awal haruslah selindung yang mungkin, bukan sebaliknya. Dalam erti kata lain, sistem harus bermula dengan pengumpulan data yang minimum, dengan sejarah pelayaran dilumpuhkan atau dengan pengekalan terhad, dan hanya mengembangkan kebenaran apabila pengguna memintanya secara eksplisit.

Apabila sesuatu produk tidak direka bentuk dengan mengutamakan privasi, pengeluar harus mempertimbangkan secara serius untuk memasukkan penambahbaikan, rangka kerja standard dan pensijilan yang dapat mengurangkan jurang dan kelemahan maklumat. Mengaplikasikan rangka kerja yang sama kepada pembantu maya akan membantu memastikan bahawa kita tidak hanya bergantung pada "muhibah" setiap syarikat.

Kewajipan undang-undang: GDPR, LOPDGDD dan peraturan lain

Di Eropah, rujukan utama ialah Peraturan Perlindungan Data Umum (GDPR) , yang ditambah di Sepanyol oleh Undang-undang Organik mengenai Perlindungan Data dan Jaminan Hak Digital (LOPDGDD). Bagi syarikat yang mengeluarkan, mengintegrasikan atau menawarkan perkhidmatan berdasarkan pembantu maya, peraturan ini adalah wajib.

Antara kewajipan yang paling relevan ialah privasi secara reka bentuk dan secara lalai (Perkara 25 GDPR) , yang telah kita bincangkan, dan prestasi penilaian impak perlindungan data (DPIA, Perkara 35 GDPR) apabila data diproses secara besar-besaran atau secara sistematik menggunakan teknologi yang sentiasa boleh menangkap maklumat, seperti mikrofon yang sentiasa dihidupkan.

Persetujuan mesti dimaklumkan, diberikan secara bebas, khusus dan jelas . Pengguna mesti tahu data apa yang dikumpul, untuk tujuan apa, berapa lama dan dengan siapa ia akan dikongsi. Tambahan pula, persetujuan mesti boleh dibatalkan pada bila-bila masa melalui mekanisme mudah.

Dasar had storan juga diperlukan : data tidak boleh disimpan selama-lamanya tanpa justifikasi. Tempoh pengekalan dan prosedur yang jelas mesti ada untuk pemadaman selamat sebaik sahaja maklumat tidak lagi diperlukan.

Akhir sekali, syarikat mesti mempunyai protokol tindak balas insiden : sekiranya berlaku pelanggaran keselamatan, pihak berkuasa penyelia mesti dimaklumkan dan, dalam kes tertentu, pengguna yang terjejas itu sendiri mesti dimaklumkan, mengambil langkah untuk mengurangkan kerosakan. Di bidang kuasa lain, seperti California dengan CCPA, pendekatannya adalah serupa: hak untuk mengetahui data apa yang dikumpul, untuk meminta pemadamannya dan untuk membantah amalan tertentu yang melibatkan penjualan atau pemindahan maklumat.

Risiko privasi dan keselamatan yang lazim

Penggunaan pembantu maya secara besar-besaran telah menggandakan senario di mana privasi boleh dikompromikan. Salah satu masalah yang paling kerap berlaku ialah pengumpulan data secara sembarangan . Mikrofon boleh merakam petikan perbualan apabila pengguna percaya peranti tersebut tidak aktif, justeru melanggar prinsip pengurangan data GDPR.

Satu lagi risiko yang jelas ialah kekurangan ketelusan . Tidak selalunya jelas apa sebenarnya yang dilakukan dengan rakaman, siapa yang boleh mendengarnya, sama ada ia dikongsi dengan pihak ketiga atau sama ada ia disemak secara manual. Tanpa maklumat ini, pengguna tidak mempunyai kawalan ke atas privasi mereka sendiri.

Pemprofilan tanpa persetujuan tulen merupakan satu lagi isu kritikal. Profil tingkah laku yang sangat terperinci boleh dibina daripada aktiviti pengguna menggunakan pembantu, yang membolehkan pengiklanan yang disasarkan, pelarasan harga dinamik atau pembuatan keputusan automatik. Jika pengguna tidak secara jelas bersetuju dengan penggunaan ini, peraturan sedang dilanggar.

Ditambah pula dengan semua ini ialah risiko keselamatan siber : kelemahan perisian, kata laluan yang lemah untuk akaun yang berkaitan, rangkaian Wi-Fi yang tidak selamat, dan sebagainya. Semua ini boleh menyebabkan akses tanpa kebenaran kepada rakaman, sejarah carian, data lokasi atau peranti yang disambungkan kepada pembantu.

Akhirnya, terdapat isu praktikal: kesukaran dalam melaksanakan hak . Pada platform besar dengan pangkalan data teragih, tidak selalu mudah bagi pengguna untuk mencari data mereka, mengeksportnya, memadamnya atau mengehadkannya secara berkesan, walaupun undang-undang mengiktiraf hak-hak ini.

Langkah praktikal untuk melindungi privasi anda semasa menggunakan pembantu maya

Walaupun sebahagian besar tanggungjawab terletak pada syarikat, pengguna boleh melakukan banyak perkara untuk mengurangkan pendedahan mereka dan mengawal dengan lebih baik apa yang mereka kongsikan semasa menggunakan Alexa, Siri, Google Assistant atau sistem serupa yang lain.

Langkah pertama adalah menyemak semula tetapan privasi peranti anda dengan teliti . Tetapan utama membolehkan anda melaraskan cara data anda dikumpulkan dan digunakan. Antara pilihan yang paling berguna, beri perhatian kepada:

• Lumpuhkan atau hadkan storan rakaman suaraBanyak pembantu membenarkan anda berhenti menyimpan interaksi ke akaun anda atau, sekurang-kurangnya, mengurangkan masa pengekalan.
• Sediakan pemadaman automatik sejarah selepas sesuatu tempoh (contohnya, 3 atau 18 bulan), supaya perbualan selama bertahun-tahun tidak terkumpul di awan.
• Semak dan padam rakaman lama secara manual melalui panel aktiviti atau aplikasi yang sepadan.
• Kawal aplikasi pihak ketiga yang mempunyai akses kepada data pembantu dan membatalkan kebenaran yang tidak penting.

Adalah juga idea yang baik untuk menukar kata laluan secara berkala untuk akaun yang dipautkan, mendayakan pengesahan dua langkah apabila mungkin dan memastikan peranti hanya bersambung ke rangkaian Wi-Fi yang selamat, mengelakkan rangkaian terbuka tanpa penyulitan.

Satu lagi cadangan asas adalah untuk mengelakkan perkongsian data yang sangat sensitif melalui pembantu , seperti maklumat perubatan terperinci, kata laluan, nombor dokumen atau data kewangan. Walaupun secara teknikalnya mungkin, ia bukanlah saluran yang ideal untuk berbuat demikian melainkan ia merupakan penyelesaian yang direka khusus untuk tujuan ini dan dengan langkah keselamatan yang dipertingkatkan.

Akhir sekali, jika anda tidak mahu pembesar suara sentiasa mendengar, anda boleh melumpuhkan pengaktifan suara ("Hey Siri," "Alexa," dll.) dan hanya menggunakan pembantu apabila anda memulakannya secara manual. Ia kurang mudah, ya, tetapi ia menghapuskan sebahagian besar pengaktifan tidak sengaja.

Amalan terbaik teknikal untuk pembangun dan syarikat

Bagi mereka yang mereka bentuk atau menggunakan antara muka perbualan—sama ada pembantu kesihatan maya, bot kewangan atau bot sembang HR—privasi tidak boleh menjadi perkara yang tertinggal. Ia mestilah kriteria reka bentuk yang sama pentingnya dengan kebolehgunaan atau prestasi.

Dari sudut teknikal, adalah penting untuk melaksanakan penyulitan hujung ke hujung bagi melindungi data semasa transit dan penyulitan semasa penyimpanan untuk maklumat yang disimpan. Pangkalan data yang mengandungi sejarah suara atau data sensitif mesti dilindungi oleh kawalan akses, log audit dan segmentasi kebenaran yang ketat.

Penggunaan teknik anonimisasi dan penamaan nama membantu mengurangkan kesan pelanggaran data: jika data tidak dikaitkan secara langsung dengan individu yang boleh dikenal pasti, risikonya adalah lebih rendah. Walau bagaimanapun, anonimisasi mestilah kukuh, menghalang pengguna daripada mudah dikenal pasti semula.

Di peringkat perniagaan, adalah penting untuk mewujudkan dasar yang jelas untuk mengurus persetujuan dan pilihan privasi . Pengguna sepatutnya dapat menerima, menolak atau mengubah suai pilihan dengan mudah, dengan antara muka yang tidak menggalakkan mereka secara halus ("corak gelap") untuk berkongsi secara berlebihan.

Latihan dalaman juga penting: seluruh pasukan—pembangun, produk, pemasaran, sokongan—memerlukan latihan berterusan dalam privasi, keselamatan dan pematuhan peraturan . Ini membantu mengelakkan ralat asas dan mengesan reka bentuk interaksi yang berpotensi manipulatif atau legap lebih awal.

Aplikasi sektoral: penjagaan kesihatan, kewangan dan sumber manusia

Apabila pembantu maya memasuki sektor sensitif seperti kesihatan , kewangan atau pengurusan kakitangan, tahap permintaan untuk privasi akan meningkat dengan mendadak.

Penyedia penjagaan kesihatan yang mengumpul simptom, rawatan atau maklumat klinikal mengendalikan data yang sangat sensitif . Dalam kes sedemikian, penyulitan yang kuat, anonimisasi sistematik dan persetujuan yang jelas dan termaklum adalah wajib. Tambahan pula, pengguna mesti mempunyai kawalan yang jelas ke atas maklumat yang disimpan, siapa yang boleh melihatnya dan bagaimana mereka boleh membatalkan persetujuan mereka.

Dalam sektor kewangan, pembantu yang membenarkan pengguna menyemak akaun, membuat pemindahan atau menerima cadangan pelaburan mesti menggabungkan keselamatan teknikal yang sangat tinggi (penyulitan, pengesahan berbilang faktor, pengesanan anomali) dengan dasar pengurangan data yang ketat. Tidak masuk akal untuk menyimpan lebih daripada yang diperlukan atau mencampurkan data kewangan dengan data komersial lain tanpa persetujuan terperinci.

Dalam sumber manusia, chatbot dalaman boleh mengurus permintaan percutian, pertanyaan gaji atau dasar dalaman . Walaupun risikonya mungkin kelihatan lebih rendah, ia masih melibatkan data peribadi pekerja. Syarikat mesti mengehadkan akses kepada sistem ini, merekodkan siapa yang mengakses maklumat apa dan memastikan bahawa interaksi tidak digunakan semula untuk tujuan yang tidak berkaitan dengan hubungan pekerjaan, melainkan terdapat asas undang-undang yang jelas untuk berbuat demikian.

Dalam semua kes ini, gabungan reka bentuk beretika, pematuhan ketat dan ketelusan dengan pengguna adalah apa yang membezakan antara penyelesaian yang berguna dan bom jangka reputasi dan perundangan.

Pembantu maya dan antara muka perbualan akan terus berkembang di rumah, di tempat kerja dan merentasi semua jenis perkhidmatan, tetapi cara kita mengurus privasi dan keselamatan data peribadi hari ini akan menentukan sama ada ia menjadi sekutu yang dipercayai atau sumber kebimbangan yang berterusan. Mengutamakan privasi secara reka bentuk, benar-benar mengehadkan pengumpulan data, melaksanakan langkah keselamatan yang mantap dan menuntut penjelasan yang jelas daripada syarikat teknologi adalah, hari ini, cara terbaik untuk menikmati manfaat mereka tanpa melupakan sesuatu yang asas seperti kawalan ke atas maklumat kita sendiri.