Pagkapribado sa mga virtual assistant: mga panganib, data, at kung paano protektahan ang iyong sarili

Informatec Digital » Kayamanan » Pagkapribado sa mga virtual assistant: mga panganib, data, at kung paano protektahan ang iyong sarili

Nakapasok na ang mga virtual assistant sa ating mga tahanan, telepono, at maging sa ating mga lugar ng trabaho, dala ang pinaghalong kaginhawahan at seryosong mga alalahanin sa privacy . Hinihiling natin kay Alexa na buksan ang mga ilaw, kay Siri para ipaalala sa atin ang mga appointment, o kay Google Assistant para sa mga direksyon, ngunit bihira nating iniisip kung ano ang mangyayari sa lahat ng impormasyong iniiwan natin.

Samantala, ang mga kumpanya at developer ay bumubuo ng lalong makapangyarihang mga conversational interface , mula sa mga chatbot sa serbisyo sa customer hanggang sa mga health at financial assistant . Lahat ng ito ay gumagamit ng personal na data, na karamihan ay sensitibo, at gumagana sa loob ng isang larangan na kinokontrol ng GDPR, ng LOPDGDD, at iba pang mga batas sa privacy. Dito nagiging kumplikado ang mga bagay-bagay: paano natin masisiyahan ang mga teknolohiyang ito nang hindi isinusuko ang ating buong buhay sa cloud?

Ano ang mga virtual assistant at paano talaga sila gumagana?

Ang mga voice assistant tulad ng Amazon Alexa, Apple Siri, Google Assistant, at Cortana ay mga sistemang nakabatay sa artificial intelligence at natural language processing (NLP) na nagbibigay-daan sa iyong kontrolin ang mga device at serbisyo gamit ang iyong boses. Matatagpuan ang mga ito sa mga smart speaker, smartphone, computer, konektadong sasakyan, at maging sa mga intercom.

Ang operasyon nito ay nakasalalay sa kombinasyon ng speech recognition, acoustic models, deep neural networks, at cloud computing , bagama't may mga lokal na alternatibo sa AI . Ang karaniwang daloy ng trabaho ay maaaring maunawaan sa ilang yugto, bagama't ipinapatupad ito ng bawat provider na may kanya-kanyang mga nuances.

Una, ang device ay nasa tinatawag na passive listening o standby mode . Hindi nito patuloy na ipinapadala ang lahat ng audio ng silid sa cloud, ngunit pinapanatili nitong aktibo ang mikropono upang matukoy ang salitang "wake": "Hey Siri," "OK Google," "Alexa," o anumang utos na angkop para sa bawat ecosystem.

Para makilala ang wake word, ang mga assistant ay nagpapatakbo ng mga lokal na algorithm na naghahambing sa nakuhang tunog sa mga acoustic pattern na nakaimbak sa device mismo. Kapag natukoy nilang may sapat na tugma, ia-activate ang assistant, at mula sa puntong iyon, ang voice command ay karaniwang ipinapadala sa cloud para sa pagproseso.

Kapag natanggap na ang isang utos, inilalapat ng mga server ang mga awtomatikong modelo ng pagkilala sa pagsasalita (na dating inspirasyon ng mga pamamaraan tulad ng Hidden Markov Models at ngayon ay pinahusay ng mga neural network at deep learning) upang i-convert ang audio sa teksto at maunawaan ang layunin ng gumagamit. Batay dito, isinasagawa ng system ang kaukulang aksyon: paghahanap ng impormasyon, pagsuri sa lagay ng panahon, pag-on ng smart bulb, pagsisimula ng tawag, pamamahala ng kalendaryo, o pagsagot sa isang kumplikadong tanong.

Kasabay nito, maraming assistant ang gumagamit ng machine learning at voice pattern analysis upang mapabuti ang katumpakan at i-personalize ang karanasan: pagkilala sa iba't ibang boses sa iisang bahay, pag-aangkop ng mga tugon sa bawat user, o mas mahusay na pagsasaayos ng pagkilala batay sa accent, timbre, o bilis ng pagsasalita.

Kaunting kasaysayan: mula kay Audrey hanggang kay Alexa at sa kanyang mga kasama

Ang teknolohiya ng pagkilala ng boses ay hindi nagsimula sa mga smart speaker; ito ay ilang dekada nang binuo. Noong mga unang taon ng 50s, inilunsad ng Bell Labs ang "Audrey ," isang sistemang may kakayahang kilalanin ang mga numerong 0 hanggang 9 na may halos 90% na katumpakan, ngunit kapag binibigkas lamang ng lumikha nito. Ito ay panimula lamang, ngunit ito ang simula ng isang linya ng patuloy na inobasyon.

Noong 1961, inilunsad ng IBM ang Shoebox , isang makinang nakakaintindi hindi lamang ng mga numero kundi pati na rin ng mga pangunahing utos, kahit na may kaunting ingay sa background at mga pagkakaiba-iba sa tono. Noong dekada 70, ang mga proyektong tulad ng Hearsay-I, Dragon, at lalo na ang Harpy sa Carnegie Mellon University, ay gumawa ng napakalaking pagsulong: Nakikilala ng Harpy ang malalaking hanay ng mga salita na may mga rate ng katumpakan sa pagitan ng 83,5% at 97,5%, at nagawa nito ito sa maraming nagsasalita, na kahanga-hanga para sa panahong iyon.

Kasabay nito, itinatag ang mga teoretikal na pundasyon ng mga Hidden Markov Model (HMM) , na sinamantala noong dekada 80 salamat sa mga pagpapabuti sa lakas ng pagproseso ng computer. Nagbigay-daan ito sa mga sistema ng boses na magsimulang mas mahusay na umangkop sa mga pagkakaiba-iba sa pagsasalita ng tao.

Noong dekada 90, ang mga teknolohiyang tulad ng DragonDictate ay nagdala ng pagkilala ng boses sa karaniwang gumagamit sa anyo ng komersyal na software. Mula roon, ang integrasyon sa mga mobile device, na sinundan ng pagsabog ng artificial intelligence at cloud computing, ay nagbukas ng daan para sa mga assistant ngayon tulad ng Alexa, Siri, at Google Assistant, na nagiging mas natural at kontekstwal.

Sa kasalukuyan, ang pananaliksik ay nakatuon sa mga larangan tulad ng real-time, lubos na isinapersonal, multilingual na pagkilala sa pagsasalita , pagsusuri sa emosyonal na tono ng nagsasalita, at pagbibigay ng agarang suporta para sa mga diyalekto ng minorya. May mga mungkahi pa nga na ang quantum computing ay maaaring higit pang mapabilis ang mga prosesong ito, na makakamit ang halos agarang mga tugon sa mga lubhang kumplikadong konteksto.

Anong datos ang kinokolekta ng mga virtual assistant?

Ang kaginhawahan ng pakikipag-usap sa isang device ay may kaakibat na kapalit: isang napakalaking halaga ng personal na data na umiikot sa pagitan ng mikropono, cloud, at maraming serbisyo . Ang mga assistant tulad ng Siri, Alexa, Google Assistant, at Cortana ay ina-activate sa pamamagitan ng boses, nagre-record ng mga command, at ipinapadala ang mga ito sa mga server para sa pagproseso. Sa proseso, nakukuha nila ang:

• Mga pag-record ng boses, kabilang ang mga aksidenteng pag-activate at mga piraso ng pag-uusap na katabi ng utos.
• Data ng device: uri ng terminal, operating system, mga identifier, IP adressmga setting ng rehiyon, atbp.
• Impormasyon sa konteksto: tinatayang o eksaktong lokasyon (kapag gumagamit ng GPS o Wi-Fi), history ng paghahanap, pang-araw-araw na gawi, paggamit ng app.
• Mga contact, kalendaryo, mga paalala, at mga tawag, kapag ipinagkaloob na ng user ang mga pahintulot na iyon.
• Mga personal na kagustuhan at gawi sa pagkonsumo, na nahinuha mula sa mga query, mga naka-link na pagbili, musikang pinakinggan, seryeng napanood, atbp.
• Data ng ikatlong partido mga taong nakikipag-usap malapit sa device o nakikipag-ugnayan dito kahit hindi sila ang may-ari.

Ang lahat ng datos na ito ay ginagamit upang mapabuti ang katumpakan, i-personalize ang mga tugon, sanayin ang mga modelo ng AI, at, sa maraming pagkakataon, i-feed ang mga sistema ng pag-target at pag-profile sa advertising . Kung hindi mapapamahalaan nang maayos, malinaw ang panganib ng mapanghimasok o tahasang ilegal na paggamit.

Pag-iimbak, pagproseso, at pag-profile ng boses

Sa karamihan ng mga kaso, ang data ng boses ay hindi lamang nananatili sa speaker o telepono. Ang mga snippet ng audio ay ipinapadala sa mga cloud server , kung saan iniimbak at pinoproseso ang mga ito nang detalyado. Nagbibigay-daan ito sa mga kumpanya ng teknolohiya na patuloy na mapabuti ang mga modelo ng pagkilala at pagganap ng kanilang mga assistant, ngunit nagbubukas din ito ng pinto sa napakalalim na pagsusuri ng pag-uugali ng user.

Hindi lamang basta isinasalin ng mga modernong sistema ang ating sinasabi. Sinusuri nila ang mga natatanging katangian ng boses (timbre, pitch, ritmo, intonasyon) upang bumuo ng mga natatanging profile ng boses. Ginagamit ang biometrics ng boses na ito upang pag-iba-ibahin ang mga gumagamit sa loob ng iisang sambahayan, i-personalize ang mga tugon, o kahit na mag-alok ng antas ng pagpapatotoo sa mga sensitibong serbisyo, tulad ng pagbabangko o pangangalagang pangkalusugan.

Malinaw ang mga bentaha: matutukoy ng assistant kung sino ang nagsasalita at iakma ang karanasan, magrekomenda ng mga angkop na nilalaman, o tumugon nang iba sa isang nasa hustong gulang at isang bata. Ngunit kasabay nito, ang lagda ng boses na ito ay maaaring magbunyag ng lubhang sensitibong impormasyon : tinatayang edad, kasarian, emosyonal na estado, pagkapagod, at maging ang mga pahiwatig na may kaugnayan sa kalusugan.

Bukod pa rito, kadalasang iniuugnay ng mga kumpanya ang aktibidad ng boses sa mas malawak na ecosystem ng data : mga user account, history ng lokasyon, mga device para sa konektadong home, at mga naka-link na third-party app (halimbawa, mga serbisyo sa smart home, musika, paglalakbay, o mga serbisyo sa ride-sharing tulad ng Uber o Lyft). Sa ganitong paraan, ang mga voice assistant ay nagiging isang sentral na punto para sa pagkolekta ng data tungkol sa pamumuhay ng user.

Kung walang matibay na encryption, access control, at mga hakbang sa anonymization o pseudonymization , ang buong arsenal ng impormasyong ito ay maaaring maging isang kaakit-akit na target para sa mga cybercriminal o, mas malala pa, mapagsamantalahan sa mga malabong paraan para sa agresibong advertising o automated na paggawa ng desisyon nang hindi nalalaman ng gumagamit.

Mga totoong kaso na nagdulot ng alarma

Ang pagkabahala ng lipunan tungkol sa privacy ng mga virtual assistant ay hindi teoretikal: ito ay pinapalakas ng mga partikular at lubos na naisapublikong insidente na nabunyag nitong mga nakaraang taon.

Isa sa mga pinakakilalang kaso ay naganap noong 2019, nang ilabas ng isang kontratista ng Google ang mga recording ng Google Assistant sa mga Belgian media outlet tulad ng VRT NWS. Ang mga recording na ito ay sinasabing ginagamit upang mapabuti ang kalidad ng serbisyo sa pamamagitan ng human review, ngunit kasama rito ang mga napaka-matalik na pag-uusap: mga komento tungkol sa kalusugan, mga postal address, mga detalye ng pribadong buhay...

Hiniling ng Belgian Data Protection Authority na suspindihin ng Google ang pagsusuri ng tao hanggang sa magagarantiyahan ang sapat na proteksyon sa privacy. Isiniwalat ng kaso na, bagama't ikinatuwiran ng mga kumpanya na isang maliit na sample lamang ng mga audio file ang manu-manong sinuri, ang sample na iyon ay maaaring maglaman ng lubhang sensitibong nilalaman.

Isa pang insidente na pumukaw ng debate ay ang testimonya ng isang kriminologo na nakatuklas ng mga recording sa kanyang Alexa device na walang nauunang salitang "wake word". Sa madaling salita, ang mga pag-uusap ay naimbak nang walang anumang maliwanag na direktang utos tulad ng "Alexa."

Isang pag-aaral ng Ruhr University Bochum at ng Max Planck Institute for Security and Privacy ang sumuri sa 11 device mula sa mga pangunahing tagagawa at nagdokumento ng libu-libong hindi sinasadyang pag-activate , na kilala bilang mga false positive. Napagpasyahan nila na ang mga sistemang ito ng pagkilala ng boses, depende sa kanilang pagpapatupad, ay maaaring mag-iba ng mga salitang pang-aktibo nang mas epektibo o mas kaunti, na nagreresulta sa mas marami o mas kaunting mga error at, samakatuwid, mas malaki o mas kaunting panganib ng mga hindi gustong pag-record.

Pinatitibay ng mga kasong ito ang ideya na, bagama't umuunlad ang teknolohiya, hindi perpekto ang katumpakan, at ang margin of error ay may direktang epekto sa privacy . Ang bawat false positive ay maaaring may kinalaman sa isang pribadong pag-uusap na nauuwi sa pag-iimbak at maaaring masuri, ma-leak, o ma-misinterpret.

Mga patong ng seguridad: pag-verify ng boses, pagtukoy ng paggalaw, at mga pisikal na buton

Sa maraming kasalukuyang device, ang "seguridad" para sa paggamit ng assistant ay pangunahing nakasalalay sa boses bilang tanging verification layer . Lumilikha ito ng ilang problema: sinumang malapit sa device ay maaaring makipag-usap dito, humingi ng impormasyon, o kahit na magsagawa ng mga potensyal na sensitibong aksyon kung walang mga karagdagang hakbang sa seguridad na na-configure.

Isang tipikal na senaryo: isang Alexa speaker sa isang bakanteng bahay o isang walang bantay na bahay-bakasyunan. Kung may pumasok, maaari silang humingi ng impormasyon sa assistant, bumili, o kontrolin ang mga IoT device sa pamamagitan lamang ng pagsasalita. Sa disenyo, hindi hinihiling ng Alexa na ang speaker ang maging may-ari; kung makikilala nito ang wake word, kikilos ito.

Dahil sa sitwasyong ito, isang solusyon na kilala bilang Virtual Security Button (VS button) ang iminungkahi , na magdaragdag ng pangalawang patong ng beripikasyon batay sa paggalaw ng tao gamit ang teknolohiyang Wi-Fi. Ang ideya ay hindi lamang nakikinig ang assistant sa wake word kundi natutukoy din ang tipikal na kinetic movement ng isang awtorisadong tao sa kapaligiran.

Gagamit ang VS button na ito ng mga pagkakaiba-iba sa mga signal ng Wi-Fi upang matukoy ang presensya at paggalaw ng mga tao . Kasama ng voice control, papayagan nitong harangan ang access kapag, halimbawa, hindi natukoy ang may-ari ng device o kapag may kahina-hinalang paggalaw, kaya nababawasan ang mga panganib sa mga sitwasyon tulad ng pagnanakaw sa isang bahay na may smart lock.

Kasabay nito, ang ilang mga assistant ay nagsasama ng simple ngunit lubos na nauugnay na mga pisikal na kontrol , tulad ng mga buton upang i-mute ang mikropono o i-disable ang patuloy na pakikinig. Bagama't inuuna ng maraming user ang kaginhawahan at hinahayaang laging naka-enable ang mga feature na ito, mula sa pananaw ng seguridad at privacy, ipinapayong lubos na maunawaan kung paano gumagana ang mga ito at gamitin lamang ang mga ito kung kinakailangan.

Disenyo ng privacy at bilang default sa mga interface ng pakikipag-usap

Mula sa perspektibo ng legal at arkitektura ng sistema, ang pangunahing konsepto ay ang privacy ayon sa disenyo at bilang default . Nangangahulugan ito na ang proteksyon ng data ay hindi idinaragdag kalaunan bilang isang patch, ngunit isinasama sa disenyo ng produkto mismo mula sa yugto ng paglilihi.

Ang disenyo ng privacy ay nangangahulugan na ang mga developer ng mga virtual assistant at chatbot ay isinasaalang-alang, mula sa unang draft, kung anong data ang tunay na kinakailangan, kung paano ito poprotektahan, at kung gaano katagal . Hindi ito tungkol sa pagkolekta ng lahat ng bagay "kung sakali," kundi tungkol sa responsableng pagpaplano. Ang ilang mga patente at panukala sa regulasyon ay nangangailangan na ng mga teknolohiya tulad ng artificial intelligence na katutubong magsama ng iba't ibang mga mode ng privacy, na idinisenyo kahit para sa mga matinding senaryo.

Ang isang pangunahing prinsipyo ay ang pagbabawas ng datos : ang pagkolekta lamang ng datos na mahalaga para gumana ang sistema. Kinukumpleto ito ng mga pamamaraan ng anonymization at pseudonymization, na idinisenyo upang maiwasan ang madaling pag-ugnay ng datos sa isang partikular na tao kung hindi kinakailangan.

Pantay na mahalaga ang transparency . Kadalasan, ang mga tuntunin at kundisyong tinatanggap natin kapag nagse-set up ng isang assistant—ang sikat na "Mga Tuntunin at Kundisyon" ng Apple, Google, Amazon, o anumang iba pang provider—ay malabo ang pagkakasulat, may maliliit na letra at napakalawak ng saklaw na halos hindi maintindihan ng karaniwang gumagamit.

Ang ibig sabihin ng default na privacy ay kung walang babaguhin ang user, ang mga unang setting ay dapat na maging kasing-protektado hangga't maaari, hindi ang kabaligtaran. Sa madaling salita, ang sistema ay dapat magsimula nang may kaunting pangongolekta ng data, hindi pinagana ang history ng pag-browse o limitado ang pagpapanatili, at palawakin lamang ang mga pahintulot kapag tahasang hiniling ito ng user.

Kapag ang isang produkto ay hindi dinisenyo nang isinasaalang-alang ang privacy, dapat seryosong isaalang-alang ng tagagawa ang pagsasama ng mga pagpapabuti, karaniwang mga balangkas, at mga sertipikasyon na nagbabawas sa mga kakulangan at kahinaan ng impormasyon. Ang paglalapat ng isang karaniwang balangkas sa mga virtual assistant ay makakatulong na matiyak na hindi tayo umaasa lamang sa "mabuting kalooban" ng bawat kumpanya.

Mga obligasyong legal: GDPR, LOPDGDD at iba pang mga regulasyon

Sa Europa, ang pangunahing sanggunian ay ang General Data Protection Regulation (GDPR) , na dinagdagan sa Espanya ng Organic Law on Data Protection and Guarantee of Digital Rights (LOPDGDD). Para sa mga kumpanyang gumagawa, nagsasama, o nag-aalok ng mga serbisyo batay sa mga virtual assistant, ang mga regulasyong ito ay mandatory.

Kabilang sa mga pinakamahalagang obligasyon ay ang privacy ayon sa disenyo at bilang default (Art. 25 GDPR) , na ating napag-usapan na, at ang pagganap ng mga pagtatasa ng epekto sa proteksyon ng datos (DPIA, Art. 35 GDPR) kapag ang datos ay pinoproseso sa malawakang saklaw o sistematikong gumagamit ng mga teknolohiyang maaaring patuloy na makakuha ng impormasyon, tulad ng mga mikroponong laging naka-on.

Ang pahintulot ay dapat na may kaalaman, malayang ibinibigay, tiyak, at malinaw . Dapat malaman ng mga gumagamit kung anong datos ang kinokolekta, para sa anong layunin, gaano katagal, at kanino ito ibabahagi. Bukod pa rito, ang pahintulot ay dapat na bawiin anumang oras sa pamamagitan ng mga simpleng mekanismo.

Kinakailangan din ang mga patakaran sa limitasyon sa imbakan : ang data ay hindi maaaring iimbak nang walang hanggan nang walang dahilan. Dapat mayroong mga panahon ng pagpapanatili at malinaw na mga pamamaraan para sa ligtas na pagbura kapag ang impormasyon ay hindi na kailangan.

Panghuli, ang mga kumpanya ay dapat magkaroon ng mga protokol sa pagtugon sa insidente : kung sakaling magkaroon ng paglabag sa seguridad, dapat maabisuhan ang awtoridad na nangangasiwa at, sa ilang mga kaso, ang mga apektadong gumagamit mismo ay dapat maabisuhan, na gumagawa ng mga hakbang upang mabawasan ang pinsala. Sa ibang mga hurisdiksyon, tulad ng California sa CCPA, ang pamamaraan ay magkatulad: ang karapatang malaman kung anong data ang kinokolekta, humiling ng pagbura nito, at tumutol sa ilang mga kasanayan na kinasasangkutan ng pagbebenta o paglilipat ng impormasyon.

Mga karaniwang panganib sa privacy at seguridad

Ang malawakang pag-deploy ng mga virtual assistant ay nagparami ng mga senaryo kung saan maaaring makompromiso ang privacy. Isa sa mga pinakamadalas na problema ay ang walang pakundangang pangongolekta ng data . Maaaring makuha ng mga mikropono ang mga snippet ng pag-uusap kapag naniniwala ang user na hindi aktibo ang device, kaya nilalabag nito ang prinsipyo ng GDPR na data minimization.

Isa pang malinaw na panganib ay ang kawalan ng transparency . Hindi laging malinaw kung ano ang eksaktong ginagawa sa mga recording, kung sino ang maaaring makinig sa mga ito, kung ibinabahagi ba ang mga ito sa mga ikatlong partido, o kung manu-manong sinusuri ang mga ito. Kung wala ang impormasyong ito, walang kontrol ang mga user sa kanilang sariling privacy.

Ang pag-profile nang walang tunay na pahintulot ay isa pang kritikal na isyu. Ang mga detalyadong behavioral profile ay maaaring mabuo mula sa aktibidad ng user gamit ang assistant, na nagbibigay-daan sa naka-target na advertising, mga dynamic na pagsasaayos ng presyo, o awtomatikong paggawa ng desisyon. Kung hindi tahasang pumayag ang user sa paggamit na ito, nilalabag ang mga regulasyon.

Dagdag pa rito ang mga panganib sa cybersecurity : mga kahinaan ng software, mahihinang password para sa mga kaugnay na account, mga hindi secure na Wi-Fi network, atbp. Ang lahat ng ito ay maaaring humantong sa hindi awtorisadong pag-access sa mga recording, history ng paghahanap, data ng lokasyon, o mga device na nakakonekta sa assistant.

Panghuli, mayroong isang praktikal na isyu: ang mga kahirapan sa paggamit ng mga karapatan . Sa malalaking plataporma na may mga ipinamamahaging database, hindi laging madali para sa mga gumagamit na mahanap ang kanilang data, i-export ito, burahin ito, o epektibong limitahan ang pagproseso nito, kahit na kinikilala ng batas ang mga karapatang ito.

Mga praktikal na hakbang upang protektahan ang iyong privacy kapag gumagamit ng mga virtual assistant

Bagama't malaking bahagi ng responsibilidad ay nasa mga kumpanya, malaki ang magagawa ng mga gumagamit upang mabawasan ang kanilang pagkakalantad at mas mahusay na makontrol ang kanilang ibinabahagi kapag gumagamit ng Alexa, Siri, Google Assistant, o iba pang katulad na mga sistema.

Ang unang hakbang ay ang masusing pagsusuri sa mga setting ng privacy ng iyong device . Ang mga pangunahing setting ay nagbibigay-daan sa iyo upang ayusin kung paano kinokolekta at ginagamit ang iyong data. Kabilang sa mga pinakakapaki-pakinabang na opsyon, bigyang-pansin ang:

• Huwag paganahin o limitahan ang imbakan ng mga recording ng bosesMaraming assistant ang nagpapahintulot sa iyo na ihinto ang pag-save ng mga interaksyon sa iyong account o, kahit man lang, bawasan ang oras ng pagpapanatili.
• I-set up ang awtomatikong pagtanggal ng mga kasaysayan pagkatapos ng isang panahon (halimbawa, 3 o 18 buwan), upang ang mga taon ng pag-uusap ay hindi maipon sa cloud.
• Suriin at manu-manong tanggalin ang mga lumang recording sa pamamagitan ng activity panel o ng kaukulang app.
• Kontrolin kung aling mga third-party na app ang may access sa data ng assistant at binawi ang mga pahintulot na hindi mahalaga.

Mainam ding ideya na pana-panahong palitan ang mga password para sa mga naka-link na account, paganahin ang two-step authentication hangga't maaari, at tiyaking kumokonekta lamang ang device sa mga secure na Wi-Fi network, nang sa gayon ay maiwasan ang mga bukas na network na walang encryption.

Isa pang pangunahing rekomendasyon ay ang pag-iwas sa pagbabahagi ng mga partikular na sensitibong datos sa pamamagitan ng assistant , tulad ng detalyadong impormasyong medikal, mga password, mga numero ng dokumento, o datos pinansyal. Bagama't posible ito sa teknikal na aspeto, hindi ito ang mainam na paraan para gawin ito maliban kung ito ay isang solusyon na partikular na idinisenyo para sa layuning ito at may pinahusay na mga hakbang sa seguridad.

Panghuli, kung ayaw mong laging nakikinig ang isang speaker, maaari mong i-disable ang voice activation ("Hey Siri," "Alexa," atbp.) at gamitin lamang ang assistant kapag manu-mano mo itong sinimulan. Oo, hindi ito gaanong maginhawa, ngunit inaalis nito ang malaking bahagi ng mga hindi sinasadyang pag-activate.

Mga pinakamahusay na kasanayan sa teknikal para sa mga developer at kumpanya

Para sa mga nagdidisenyo o nagde-deploy ng mga conversational interface—ito man ay isang virtual health assistant, isang financial bot, o isang HR chatbot—ang privacy ay hindi maaaring maging isang nahuling pag-iisip. Dapat itong maging isang pamantayan sa disenyo na kasinghalaga ng usability o performance.

Mula sa teknikal na pananaw, mahalagang ipatupad ang end-to-end encryption upang protektahan ang data habang dinadala at ang encryption habang nakaimbak na impormasyon. Ang mga database na naglalaman ng mga voice history o sensitibong data ay dapat protektahan ng mahigpit na mga kontrol sa pag-access, mga audit log, at permission segmentation.

Ang paggamit ng mga pamamaraan ng anonymization at pseudonymization ay nakakatulong na mabawasan ang epekto ng isang paglabag sa datos: kung ang datos ay hindi direktang nakaugnay sa isang makikilalang indibidwal, mas mababa ang panganib. Gayunpaman, ang anonymization ay dapat na matibay, na pumipigil sa user na madaling makilala muli.

Sa antas ng negosyo, mahalagang magtatag ng malinaw na mga patakaran para sa pamamahala ng pahintulot at mga kagustuhan sa privacy . Dapat madaling tanggapin, tanggihan, o baguhin ng mga user ang mga opsyon, gamit ang mga interface na hindi banayad na hinihikayat sila ("dark patterns") na magbahagi nang labis.

Mahalaga rin ang panloob na pagsasanay: ang buong pangkat—mga developer, produkto, marketing, suporta—ay nangangailangan ng patuloy na pagsasanay sa privacy, seguridad, at pagsunod sa mga regulasyon . Nakakatulong ito na maiwasan ang mga pangunahing error at matukoy nang maaga ang mga potensyal na manipulatibo o malabong disenyo ng interaksyon.

Mga aplikasyon sa sektor: pangangalagang pangkalusugan, pananalapi, at HR

Kapag ang mga virtual assistant ay pumapasok sa mga sensitibong sektor tulad ng kalusugan , pananalapi o pamamahala ng tauhan, ang antas ng demand para sa privacy ay tumataas nang husto.

Ang isang tagapagbigay ng pangangalagang pangkalusugan na nangongolekta ng mga sintomas, paggamot, o klinikal na impormasyon ay humahawak ng partikular na sensitibong datos . Sa ganitong mga kaso, ang matibay na pag-encrypt, sistematikong pag-anonymize, at tahasang at may kaalamang pahintulot ay kinakailangan. Bukod pa rito, ang mga gumagamit ay dapat magkaroon ng malinaw na kontrol sa kung anong impormasyon ang nakaimbak, kung sino ang makakakita nito, at kung paano nila maaaring bawiin ang kanilang pahintulot.

Sa sektor ng pananalapi, ang isang assistant na nagpapahintulot sa mga user na magsuri ng mga account, gumawa ng mga paglilipat, o tumanggap ng mga rekomendasyon sa pamumuhunan ay dapat pagsamahin ang napakataas na teknikal na seguridad (encryption, multi-factor authentication, anomaly detection) na may mahigpit na patakaran sa pagliit ng datos. Walang saysay na mag-imbak nang higit sa kinakailangan o paghaluin ang datos pinansyal sa iba pang komersyal na datos nang walang detalyadong pahintulot.

Sa human resources, maaaring pamahalaan ng isang internal chatbot ang mga kahilingan sa bakasyon, mga katanungan tungkol sa payroll, o mga panloob na patakaran . Bagama't maaaring mukhang mas mababa ang panganib, may kinalaman pa rin ito sa personal na datos ng empleyado. Dapat limitahan ng kumpanya ang pag-access sa sistemang ito, itala kung sino ang nag-a-access sa kung anong impormasyon, at tiyaking hindi muling gagamitin ang mga interaksyon para sa mga layuning walang kaugnayan sa relasyon sa trabaho, maliban na lang kung mayroong malinaw na legal na batayan para dito.

Sa lahat ng mga kasong ito, ang kombinasyon ng etikal na disenyo, mahigpit na pagsunod, at transparency sa mga gumagamit ang siyang gumagawa ng pagkakaiba sa pagitan ng isang kapaki-pakinabang na solusyon at isang bombang may reputasyon at legal na epekto.

Ang mga virtual assistant at conversational interface ay patuloy na lalawak sa bahay, sa trabaho, at sa lahat ng uri ng serbisyo, ngunit kung paano natin pinamamahalaan ang privacy at seguridad ng personal na data ngayon ang magtatakda kung ang mga ito ay magiging mapagkakatiwalaang kakampi o isang patuloy na pinagmumulan ng pag-aalala. Ang pagbibigay-priyoridad sa privacy nang may disenyo, tunay na paglilimita sa pangongolekta ng data, pagpapatupad ng matibay na mga hakbang sa seguridad, at paghingi ng malinaw na paliwanag mula sa mga kumpanya ng teknolohiya ay, ngayon, ang pinakamahusay na paraan upang matamasa ang kanilang mga benepisyo nang hindi nawawala ang isang bagay na kasinghalaga ng kontrol sa ating sariling impormasyon.