Virtuālo asistentu konfidencialitāte: riski, dati un kā sevi pasargāt

Informatec Digital » Resursi » Virtuālo asistentu konfidencialitāte: riski, dati un kā sevi pasargāt

Virtuālie asistenti ir iefiltrējušies mūsu mājās, tālruņos un pat darba vietās, radot gan neticamas ērtības, gan nopietnas bažas par privātumu . Mēs lūdzam Alexa ieslēgt gaismu, Siri atgādināt mums par tikšanās reizēm vai Google Assistant sniegt norādes, taču reti aizdomājamies, kas notiek ar visu informāciju, ko atstājam aiz sevis.

Tikmēr uzņēmumi un izstrādātāji veido arvien jaudīgākas sarunu saskarnes , sākot no klientu apkalpošanas tērzēšanas robotiem līdz veselības un finanšu asistentiem . Visas šīs sistēmas izmanto personas datus, no kuriem liela daļa ir ļoti sensitīvi, un darbojas vidē, ko regulē GDPR, LOPDGDD un citi privātuma likumi. Šeit lietas kļūst sarežģītas: kā mēs varam baudīt šīs tehnoloģijas, neatstājot visu savu dzīvi mākonim?

Kas ir virtuālie asistenti un kā tie īsti darbojas?

Balss asistenti, piemēram, Amazon Alexa, Apple Siri, Google Assistant un Cortana, ir sistēmas, kuru pamatā ir mākslīgais intelekts un dabiskās valodas apstrāde (NLP), kas ļauj kontrolēt ierīces un pakalpojumus, izmantojot balsi. Tie ir atrodami viedskaļruņos, viedtālruņos, datoros, viedajās automašīnās un pat domofonos.

Tās darbība balstās uz runas atpazīšanas, akustisko modeļu, dziļo neironu tīklu un mākoņdatošanas kombināciju , lai gan pastāv lokālas mākslīgā intelekta alternatīvas . Tipisko darbplūsmu var saprast vairākos posmos, lai gan katrs pakalpojumu sniedzējs to ievieš ar savām niansēm.

Pirmkārt, ierīce atrodas tā sauktajā pasīvās klausīšanās jeb gaidīšanas režīmā . Tā nepārtraukti nesūta visu telpas audio uz mākoni, bet gan uztur mikrofonu aktīvu, lai noteiktu modināšanas vārdu: "Hei, Siri", "OK Google", "Alexa" vai jebkuru citu katrai ekosistēmai atbilstošu komandu.

Lai atpazītu modināšanas vārdu, asistenti palaiž lokālus algoritmus , kas salīdzina uztverto skaņu ar ierīcē saglabātajiem akustiskajiem modeļiem. Kad tie nosaka, ka atbilstība ir pietiekama, asistents tiek aktivizēts, un no šī brīža balss komanda parasti tiek nosūtīta uz mākoņpakalpojumu apstrādei.

Kad komanda ir saņemta, serveri izmanto automātiskās runas atpazīšanas modeļus (vēsturiski iedvesmojoties no tādām metodēm kā slēptie Markova modeļi un tagad uzlaboti ar neironu tīkliem un dziļo mācīšanos), lai pārveidotu audio tekstā un saprastu lietotāja nodomu. Pamatojoties uz to, sistēma veic atbilstošo darbību: meklē informāciju, pārbauda laika prognozi, ieslēdz viedpulksteni, veic zvanu, pārvalda kalendāru vai atbild uz sarežģītu jautājumu.

Paralēli daudzi asistenti izmanto mašīnmācīšanos un balss modeļu analīzi, lai uzlabotu precizitāti un personalizētu pieredzi: atpazīstot dažādas balsis vienā mājā, pielāgojot atbildes katram lietotājam vai labāk pielāgojot atpazīšanu, pamatojoties uz akcentu, tembru vai runas ātrumu.

Nedaudz vēstures: no Odrijas līdz Aleksai un kompānijai

Balss atpazīšanas tehnoloģija nesākās ar viedajiem skaļruņiem; tā tiek attīstīta jau gadu desmitiem. 50. gs. piecdesmito gadu sākumā Bell Labs atklāja "Audrey " — sistēmu, kas spēj atpazīt skaitļus no 0 līdz 9 ar gandrīz 90 % precizitāti, taču tikai tad, ja tos ierunā tās radītājs. Tā bija rudimentāra, taču iezīmēja nepārtrauktu inovāciju līnijas sākumu.

1961. gadā IBM laida klajā Shoebox — ierīci, kas saprata ne tikai ciparus, bet arī pamata komandas pat ar nelielu fona troksni un balss augstuma variācijām. 20. gs. 70. gados tādi projekti kā Hearsay-I, Dragon un jo īpaši Harpy Kārnegija Melona universitātē veica milzīgu lēcienu uz priekšu: Harpy spēja atpazīt lielus vārdu kopumus ar precizitātes līmeni no 83,5 % līdz 97,5 %, un tas tika panākts ar vairākiem runātājiem, kas tolaik bija iespaidīgi.

Paralēli tika veidoti slēpto Markova modeļu (HMM) teorētiskie pamati , kas tika izmantoti 80. gs. astoņdesmitajos gados, pateicoties datoru apstrādes jaudas uzlabojumiem. Tas ļāva balss sistēmām sākt labāk pielāgoties cilvēka runas variācijām.

Deviņdesmitajos gados tādas tehnoloģijas kā DragonDictate komerciālas programmatūras veidā nodrošināja balss atpazīšanu vidusmēra lietotājam. Pēc tam integrācija mobilajās ierīcēs, kam sekoja mākslīgā intelekta un mākoņdatošanas eksplozija, pavēra ceļu mūsdienu asistentiem, piemēram, Alexa, Siri un Google Assistant, kas kļūst arvien dabiskāki un kontekstuālāki.

Mūsdienās pētījumi ir vērsti uz tādām jomām kā reāllaika, ļoti personalizēta, daudzvalodu runas atpazīšana , runātāja emocionālā toņa analīze un tūlītēja atbalsta sniegšana minoritāšu dialektiem. Ir pat ieteikumi, ka kvantu skaitļošana varētu vēl vairāk paātrināt šos procesus, panākot gandrīz tūlītējas atbildes ļoti sarežģītos kontekstos.

Kādus datus apkopo virtuālie asistenti?

Ērtības sarunāties ar ierīci prasa cenu: milzīgs apjoms personas datu cirkulē starp mikrofonu, mākoni un vairākiem pakalpojumiem . Asistenti, piemēram, Siri, Alexa, Google Assistant un Cortana, tiek aktivizēti ar balsi, ieraksta komandas un nosūta tās uz serveriem apstrādei. Pa ceļam tie fiksē:

• Balss ieraksti, ieskaitot nejaušas aktivizēšanas un sarunas fragmentus blakus komandai.
• Ierīces datitermināļa tips, operētājsistēma, identifikatori, IP adresereģionālie iestatījumi utt.
• Konteksta informācijaaptuvenā vai precīza atrašanās vieta (izmantojot GPS vai Wi-Fi), meklēšanas vēsture, ikdienas paradumi, lietotņu lietojums.
• Kontakti, kalendārs, atgādinājumi un zvani, kad lietotājs ir piešķīris šīs atļaujas.
• Personīgās vēlmes un patēriņa paradumi, secināts no vaicājumiem, saistītajiem pirkumiem, klausītās mūzikas, noskatītajiem seriāliem utt.
• Trešo pušu dati kuri runā ierīces tuvumā vai mijiedarbojas ar to, pat ja viņi nav tās īpašnieki.

Visi šie dati tiek izmantoti, lai uzlabotu precizitāti, personalizētu atbildes, apmācītu mākslīgā intelekta modeļus un daudzos gadījumos reklamētu mērķauditorijas atlasi un profilēšanas sistēmas . Ja dati netiek pareizi pārvaldīti, pastāv nepārprotams uzmācīgu vai klaji nelikumīgu datu izmantošanas risks.

Uzglabāšana, apstrāde un balss profilēšana

Vairumā gadījumu balss dati nepaliek tikai skaļrunī vai tālrunī. Audio fragmenti tiek nosūtīti uz mākoņserveriem , kur tie tiek ļoti detalizēti glabāti un apstrādāti. Tas ļauj tehnoloģiju uzņēmumiem nepārtraukti uzlabot atpazīšanas modeļus un savu asistentu veiktspēju, kā arī paver durvis ļoti dziļai lietotāju uzvedības analīzei.

Mūsdienu sistēmas ne tikai transkribē mūsu teikto. Tās analizē unikālas balss īpašības (tembru, augstumu, ritmu, intonāciju), lai izveidotu unikālus vokālos profilus. Šī balss biometrija tiek izmantota, lai atšķirtu lietotājus vienā mājsaimniecībā, personalizētu atbildes vai pat piedāvātu autentifikācijas līmeni sensitīvos pakalpojumos, piemēram, banku vai veselības aprūpes pakalpojumos.

Priekšrocības ir acīmredzamas: asistents var identificēt runātāju un pielāgot pieredzi, ieteikt pielāgotu saturu vai reaģēt atšķirīgi pieaugušajam un bērnam. Taču vienlaikus šis balss paraksts var atklāt ārkārtīgi sensitīvu informāciju : aptuvenu vecumu, dzimumu, emocionālo stāvokli, nogurumu un pat ar veselību saistītas norādes.

Turklāt uzņēmumi bieži saista balss aktivitātes ar plašākām datu ekosistēmām : lietotāju kontiem, atrašanās vietas vēsturi, viedajām mājas ierīcēm un saistītām trešo pušu lietotnēm (piemēram, viedās mājas pakalpojumiem, mūziku, ceļošanu vai kopbraukšanas pakalpojumiem, piemēram, Uber vai Lyft). Tādā veidā balss asistenti kļūst par centrālo punktu datu vākšanai par lietotāja dzīvesveidu.

Bez spēcīgas šifrēšanas, piekļuves kontroles un anonimizācijas vai pseidonimizācijas pasākumiem viss šis informācijas arsenāls var kļūt par ļoti pievilcīgu mērķi kibernoziedzniekiem vai, vēl ļaunāk, tikt izmantots necaurspīdīgā veidā agresīvai reklāmai vai automatizētai lēmumu pieņemšanai bez lietotāja faktiskas ziņas.

Reāli gadījumi, kas izraisījuši trauksmi

Sabiedrības bažas par virtuālo asistentu privātumu nav teorētiskas: tās veicina konkrēti un plaši publiskoti incidenti , kas nākuši gaismā pēdējos gados.

Viens no visļaunāk pazīstamākajiem gadījumiem notika 2019. gadā, kad Google darbuzņēmējs nopludināja Google Assistant ierakstus Beļģijas plašsaziņas līdzekļiem, piemēram, VRT NWS. Šie ieraksti it kā tika izmantoti pakalpojumu kvalitātes uzlabošanai, veicot cilvēku veiktu pārskatīšanu, taču tajos bija iekļautas ļoti intīmas sarunas: komentāri par veselību, pasta adreses, privātās dzīves detaļas…

Beļģijas Datu aizsardzības iestāde pieprasīja, lai Google apturētu cilvēku veikto pārskatīšanu, līdz tiks garantēta pienācīga privātuma aizsardzība. Lieta atklāja, ka, lai gan uzņēmumi apgalvoja, ka manuāli tika pārskatīts tikai neliels audio failu paraugs, šis paraugs varētu saturēt ārkārtīgi sensitīvu saturu.

Vēl viens incidents, kas izraisīja diskusijas, bija kriminoloģes liecība , kura savā Alexa ierīcē atklāja ierakstus , pirms kuriem nebija norādīts modināšanas vārds. Citiem vārdiem sakot, sarunas bija saglabātas bez jebkādas acīmredzamas tiešas komandas, piemēram, “Alexa”.

Rūras Universitātes Bohumā un Maksa Planka Drošības un privātuma institūta pētījumā tika analizētas 11 lielāko ražotāju ierīces un dokumentēti tūkstošiem netīšas aktivizācijas gadījumu , kas pazīstami kā viltus pozitīvi rezultāti. Viņi secināja, ka šīs balss atpazīšanas sistēmas atkarībā no to ieviešanas var vairāk vai mazāk efektīvi atšķirt aktivizācijas vārdus, kā rezultātā rodas vairāk vai mazāk kļūdu un līdz ar to lielāks vai mazāks nevēlamu ierakstu risks.

Šie gadījumi pastiprina domu, ka, lai gan tehnoloģijas attīstās, precizitāte nav perfekta, un kļūdas robežai ir tiešas sekas uz privātumu . Katrs viltus pozitīvs rezultāts potenciāli ietver privātas sarunas fragmentu, kas tiek saglabāts un var tikt pārskatīts, nopludināts vai nepareizi interpretēts.

Drošības slāņi: balss verifikācija, kustību noteikšana un fiziskās pogas

Daudzās pašreizējās ierīcēs asistenta lietošanas "drošība" galvenokārt balstās uz balsi kā vienīgo verifikācijas slāni . Tas rada vairākas problēmas: ikviens, kas atrodas ierīces tuvumā, var ar to runāt, jautāt informāciju vai pat veikt potenciāli sensitīvas darbības, ja nav konfigurēti papildu drošības pasākumi.

Tipisks scenārijs: Alexa skaļrunis tukšā mājā vai neapsargātā brīvdienu mājā. Ja kāds ienāk, viņš var lūgt asistentam informāciju, veikt pirkumus vai kontrolēt lietu interneta ierīces, vienkārši runājot. Pēc būtības Alexa neprasa, lai skaļrunis būtu īpašnieks; ja tas atpazīst modināšanas vārdu, tas rīkosies.

Ņemot vērā šo scenāriju, ir ierosināts risinājums, kas pazīstams kā virtuālā drošības poga (VS poga) , kas pievienotu otro verifikācijas slāni, pamatojoties uz cilvēka kustību, izmantojot Wi-Fi tehnoloģiju. Ideja ir tāda, ka asistents ne tikai klausās modināšanas vārdu, bet arī nosaka pilnvarotas personas tipisko kinētisko kustību vidē.

Šī VS poga izmantotu Wi-Fi signālu variācijas, lai identificētu cilvēku klātbūtni un kustību . Apvienojumā ar balss vadību tā ļautu bloķēt piekļuvi, piemēram, ja ierīces īpašnieks netiek noteikts vai ja ir aizdomīga kustība, tādējādi samazinot riskus tādos scenārijos kā ielaušanās mājās ar viedslēdzeni.

Vienlaikus daži asistenti ietver vienkāršas, bet ļoti svarīgas fiziskas vadības ierīces , piemēram, pogas mikrofona izslēgšanai vai nepārtrauktas klausīšanās atspējošanai. Lai gan daudzi lietotāji prioritāri piešķir ērtības un šīs funkcijas vienmēr atstāj ieslēgtas, no drošības un privātuma viedokļa ir ieteicams pilnībā izprast to darbību un izmantot tās tikai nepieciešamības gadījumā.

Konfidencialitāte pēc noklusējuma un integrēti sarunu saskarnēs

No juridiskā un sistēmu arhitektūras viedokļa galvenais jēdziens ir integrēta un noklusējuma privātuma aizsardzība . Tas nozīmē, ka datu aizsardzība netiek pievienota vēlāk kā ielāps, bet gan tiek integrēta pašā produkta dizainā jau no koncepcijas fāzes.

Privātuma aizsardzība pēc noklusējuma nozīmē, ka virtuālo asistentu un tērzēšanas robotu izstrādātāji jau no paša pirmā melnraksta apsver, kādi dati ir patiesi nepieciešami, kā tie tiks aizsargāti un cik ilgi . Runa nav par visu datu vākšanu "katram gadījumam", bet gan par atbildīgu plānošanu. Daži patenti un normatīvie priekšlikumi jau pieprasa, lai tādās tehnoloģijās kā mākslīgais intelekts būtu iekļauti dažādi privātuma režīmi, kas paredzēti pat ekstremāliem scenārijiem.

Pamatprincips ir datu minimizācija : tiek vākti tikai tie dati, kas ir nepieciešami sistēmas darbībai. To papildina anonimizācijas un pseidonimizācijas metodes, kas paredzētas, lai novērstu datu vieglu sasaisti ar konkrētu personu, ja tas nav nepieciešams.

Tikpat svarīga ir pārredzamība . Bieži vien noteikumi un nosacījumi, kurus mēs pieņemam, iestatot asistentu — slavenie Apple, Google, Amazon vai jebkura cita pakalpojumu sniedzēja “Noteikumi un nosacījumi” — ir neskaidri formulēti, ar sīku druku un tik plaša tvēruma, ka vidusmēra lietotājs tos tik tikko saprot.

Noklusējuma privātums nozīmē, ka, ja lietotājs neko nemaina, sākotnējiem iestatījumiem jābūt pēc iespējas drošākiem, nevis otrādi. Citiem vārdiem sakot, sistēmai jāsāk ar minimālu datu vākšanu, atspējojot pārlūkošanas vēsturi vai ierobežojot tās saglabāšanu, un atļaujas jāpaplašina tikai tad, kad lietotājs to nepārprotami pieprasa.

Ja produkts nav izstrādāts, ņemot vērā privātumu, ražotājam nopietni jāapsver uzlabojumu, standarta sistēmu un sertifikātu iekļaušana , kas samazina informācijas nepilnības un ievainojamības. Kopīgas sistēmas piemērošana virtuālajiem asistentiem palīdzētu nodrošināt, ka mēs nepaļaujamies tikai uz katra uzņēmuma "labo gribu".

Juridiskie pienākumi: GDPR, LOPDGDD un citi noteikumi

Eiropā galvenā atsauce ir Vispārīgā datu aizsardzības regula (VDAR) , ko Spānijā papildina Datu aizsardzības un digitālo tiesību garantijas pamatlikums (LOPDGDD). Uzņēmumiem, kas ražo, integrē vai piedāvā pakalpojumus, kuru pamatā ir virtuālie asistenti, šie noteikumi ir obligāti.

Starp svarīgākajiem pienākumiem ir integrēta privātuma aizsardzība un privātuma aizsardzība pēc noklusējuma (VDAR 25. pants) , ko jau esam apsprieduši, un datu aizsardzības ietekmes novērtējumu (DPIA, VDAR 35. pants) veikšana , ja dati tiek apstrādāti plašā mērogā vai sistemātiski, izmantojot tehnoloģijas, kas var pastāvīgi uztvert informāciju, piemēram, vienmēr ieslēgtus mikrofonus.

Piekrišanai ir jābūt informētai, brīvprātīgai, konkrētai un nepārprotamai . Lietotājiem ir jāzina, kādi dati tiek vākti, kādam mērķim, cik ilgi un ar ko tie tiks kopīgoti. Turklāt piekrišanai ir jābūt jebkurā laikā atsaucamai, izmantojot vienkāršus mehānismus.

Ir nepieciešama arī uzglabāšanas ierobežošanas politika : datus nevar uzglabāt bezgalīgi bez pamatojuma. Jābūt noteiktiem saglabāšanas periodiem un skaidrām procedūrām drošai dzēšanai, kad informācija vairs nav nepieciešama.

Visbeidzot, uzņēmumiem ir jābūt ieviestiem incidentu reaģēšanas protokoliem : drošības pārkāpuma gadījumā ir jāpaziņo uzraudzības iestādei un noteiktos gadījumos jāinformē arī paši skartie lietotāji, veicot pasākumus zaudējumu mazināšanai. Citās jurisdikcijās, piemēram, Kalifornijā ar CCPA, pieeja ir līdzīga: tiesības zināt, kādi dati tiek vākti, pieprasīt to dzēšanu un iebilst pret noteiktām praksēm, kas saistītas ar informācijas pārdošanu vai nodošanu.

Biežākie privātuma un drošības riski

Virtuālo asistentu masveida ieviešana ir daudzkārt palielinājusi scenārijus, kuros var tikt apdraudēta privātums. Viena no biežākajām problēmām ir nekritiska datu vākšana . Mikrofoni var uztvert sarunas fragmentus, pat ja lietotājs uzskata, ka ierīce ir neaktīva, tādējādi pārkāpjot GDPR principu par datu minimizēšanu.

Vēl viens skaidrs risks ir pārredzamības trūkums . Ne vienmēr ir skaidrs, kas tieši tiek darīts ar ierakstiem, kas tos var klausīties, vai tie tiek kopīgoti ar trešajām personām vai arī tie tiek manuāli pārskatīti. Bez šīs informācijas lietotājiem nav nekādas kontroles pār savu privātumu.

Profilēšana bez patiesas piekrišanas ir vēl viena kritiska problēma. Izmantojot palīgu, no lietotāju aktivitātēm var izveidot ļoti detalizētus uzvedības profilus, kas ļauj rādīt mērķtiecīgu reklāmu, dinamiskas cenu korekcijas vai automatizētu lēmumu pieņemšanu. Ja lietotājs nav nepārprotami piekritis šādai izmantošanai, tiek pārkāpti noteikumi.

Tam visam klāt nāk kiberdrošības riski : programmatūras ievainojamības, vājas paroles saistītajiem kontiem, nedroši Wi-Fi tīkli utt. Tas viss var novest pie nesankcionētas piekļuves ierakstiem, meklēšanas vēsturei, atrašanās vietas datiem vai ierīcēm, kas savienotas ar asistentu.

Visbeidzot, pastāv praktiska problēma: grūtības īstenot tiesības . Lielās platformās ar izkliedētām datubāzēm lietotājiem ne vienmēr ir viegli atrast savus datus, eksportēt tos, dzēst vai efektīvi ierobežot to apstrādi, pat ja likums šīs tiesības atzīst.

Praktiski soļi privātuma aizsardzībai, izmantojot virtuālos asistentus

Lai gan liela daļa atbildības gulstas uz uzņēmumiem, lietotāji var daudz darīt, lai samazinātu savu pakļautību riskam un labāk kontrolētu to, ko viņi kopīgo , izmantojot Alexa, Siri, Google Assistant vai citas līdzīgas sistēmas.

Pirmais solis ir rūpīgi pārskatīt ierīces privātuma iestatījumus . Galvenie iestatījumi ļauj pielāgot, kā tiek apkopoti un izmantoti jūsu dati. Starp visnoderīgākajām iespējām pievērsiet uzmanību:

• Balss ierakstu glabāšanas atspējošana vai ierobežošanaDaudzi palīgi ļauj pārtraukt mijiedarbības saglabāšanu jūsu kontā vai vismaz samazināt saglabāšanas laiku.
• Iestatiet automātisko dzēšanu vēstures pēc noteikta perioda (piemēram, 3 vai 18 mēnešiem), lai mākonī neuzkrātos gadiem ilgas sarunas.
• Pārskatiet un manuāli dzēsiet vecos ierakstus izmantojot aktivitāšu paneli vai atbilstošo lietotni.
• Kontrolējiet, kurām trešo pušu lietotnēm ir piekļuve asistenta datiem un atsaukt atļaujas, kas nav būtiskas.

Tāpat ieteicams periodiski mainīt saistīto kontu paroles, kad vien iespējams iespējot divpakāpju autentifikāciju un nodrošināt, ka ierīce izveido savienojumu tikai ar drošiem Wi-Fi tīkliem, izvairoties no atvērtiem tīkliem bez šifrēšanas.

Vēl viens pamata ieteikums ir izvairīties no īpaši sensitīvu datu, piemēram, detalizētas medicīniskās informācijas, paroļu, dokumentu numuru vai finanšu datu, koplietošanas, izmantojot asistentu . Lai gan tehniski tas ir iespējams, tas nav ideāls kanāls šādai rīcībai, ja vien tas nav īpaši šim nolūkam izstrādāts risinājums ar uzlabotiem drošības pasākumiem.

Visbeidzot, ja nevēlaties, lai runātājs jūs pastāvīgi klausītos, varat atspējot balss aktivizēšanu (“Hei, Siri”, “Alexa” utt.) un izmantot palīgu tikai tad, kad to manuāli aktivizējat. Jā, tas ir mazāk ērti, taču tas novērš ievērojamu daļu nejaušas aktivizēšanas.

Tehniskā labākā prakse izstrādātājiem un uzņēmumiem

Tiem, kas izstrādā vai ievieš sarunu saskarnes — neatkarīgi no tā, vai tas ir virtuāls veselības asistents, finanšu robots vai personāla vadības tērzēšanas robots —, privātums nedrīkst būt otrajā plānā. Tam ir jābūt tikpat svarīgam dizaina kritērijam kā lietojamība vai veiktspēja.

No tehniskā viedokļa ir svarīgi ieviest pilnīgu šifrēšanu , lai aizsargātu datus pārsūtīšanas laikā, un šifrēšanu saglabātajai informācijai miera stāvoklī. Datubāzes, kas satur balss vēstures vai sensitīvus datus, ir jāaizsargā ar stingru piekļuves kontroli, audita žurnāliem un atļauju segmentāciju.

Anonimizācijas un pseidonimizācijas metožu izmantošana palīdz mazināt datu noplūdes ietekmi: ja dati nav tieši saistīti ar identificējamu personu, risks ir mazāks. Tomēr anonimizācijai ir jābūt stabilai, novēršot lietotāja vieglu atkārtotu identificēšanu.

Uzņēmuma līmenī ir svarīgi izveidot skaidru politiku piekrišanas un privātuma preferenču pārvaldībai . Lietotājiem vajadzētu būt iespējai viegli pieņemt, noraidīt vai mainīt opcijas, izmantojot saskarnes, kas netieši neveicina pārmērīgu kopīgošanu ("tumšas shēmas").

Svarīga ir arī iekšējā apmācība: visai komandai — izstrādātājiem, produktam, mārketingam, atbalstam — ir nepieciešama pastāvīga apmācība privātuma, drošības un atbilstības normatīvajiem aktiem jomā . Tas palīdz izvairīties no pamata kļūdām un jau agrīnā stadijā atklāt potenciāli manipulatīvus vai necaurredzamus mijiedarbības modeļus.

Nozaru pielietojumi: veselības aprūpe, finanses un personāla vadība

Kad virtuālie asistenti ienāk tādās jutīgās nozarēs kā veselības aprūpe , finanses vai personāla vadība, pieprasījums pēc privātuma strauji pieaug.

Veselības aprūpes sniedzējs, kas apkopo informāciju par simptomiem, ārstēšanu vai klīnisko informāciju, apstrādā īpaši sensitīvus datus . Šādos gadījumos ir obligāta spēcīga šifrēšana, sistemātiska anonimizācija un skaidra, labi informēta piekrišana. Turklāt lietotājiem ir jābūt skaidrai kontrolei pār to, kāda informācija tiek glabāta, kas to var redzēt un kā viņi var atsaukt savu piekrišanu.

Finanšu sektorā asistentam, kas ļauj lietotājiem pārbaudīt kontus, veikt pārskaitījumus vai saņemt investīciju ieteikumus, ir jāapvieno ļoti augsta tehniskā drošība (šifrēšana, daudzfaktoru autentifikācija, anomāliju noteikšana) ar stingru datu minimizācijas politiku. Nav jēgas uzglabāt vairāk datu nekā nepieciešams vai jaukt finanšu datus ar citiem komerciāliem datiem bez detalizētas piekrišanas.

Cilvēkresursu jomā iekšējais tērzēšanas robots var pārvaldīt atvaļinājuma pieprasījumus, algas aprēķinu jautājumus vai iekšējās politikas . Lai gan risks var šķist mazāks, tas joprojām ietver darbinieku personas datus. Uzņēmumam ir jāierobežo piekļuve šai sistēmai, jāreģistrē, kas piekļūst kādai informācijai, un jānodrošina, ka mijiedarbība netiek atkārtoti izmantota mērķiem, kas nav saistīti ar darba attiecībām, ja vien tam nav skaidra juridiska pamata.

Visos šajos gadījumos ētiska dizaina, stingras atbilstības un pārredzamības ar lietotājiem apvienojums ir tas, kas rada atšķirību starp noderīgu risinājumu un reputācijas un juridiskas laika bumbas radītāju.

Virtuālie asistenti un sarunu saskarnes turpinās paplašināties mājās, darbā un visu veidu pakalpojumos, taču tas, kā mēs šodien pārvaldīsim personas datu privātumu un drošību, noteiks, vai tie kļūs par uzticamiem sabiedrotajiem vai par pastāvīgu bažu avotu. Privātuma prioritāte jau pēc ieceres, datu vākšanas patiesa ierobežošana, spēcīgu drošības pasākumu ieviešana un skaidru skaidrojumu pieprasīšana no tehnoloģiju uzņēmumiem mūsdienās ir labākais veids, kā baudīt to priekšrocības, nezaudējot no redzesloka kaut ko tik būtisku kā kontrole pār savu informāciju.