Zasebnost pri virtualnih asistentih: tveganja, podatki in kako se zaščititi

Informatec Digital » Viri » Zasebnost pri virtualnih asistentih: tveganja, podatki in kako se zaščititi

Virtualni asistenti so prodrli v naše domove, telefone in celo delovna mesta ter s seboj prinesli mešanico neverjetnega udobja in resnih pomislekov glede zasebnosti . Prosimo Alexo, naj prižge luči, Siri, naj nas opomni na sestanke, ali Google Assistant za navodila, a le redko pomislimo, kaj se zgodi z vsemi informacijami, ki jih pustimo za seboj.

Medtem podjetja in razvijalci gradijo vse zmogljivejše pogovorne vmesnike , od klepetalnih robotov za pomoč strankam do zdravstvenih in finančnih asistentov . Vsi ti se hranijo z osebnimi podatki, od katerih je veliko zelo občutljivih, in delujejo v okolju, ki ga urejajo GDPR, LOPDGDD in drugi zakoni o zasebnosti. Tu se stvari zapletejo: kako lahko uživamo v teh tehnologijah, ne da bi se pri tem v celoti prepustili oblaku?

Kaj so virtualni asistenti in kako dejansko delujejo?

Glasovni pomočniki, kot so Amazon Alexa, Apple Siri, Google Assistant in Cortana, so sistemi, ki temeljijo na umetni inteligenci in obdelavi naravnega jezika (NLP), ki omogočajo upravljanje naprav in storitev z glasom. Najdemo jih v pametnih zvočnikih, pametnih telefonih, računalnikih, povezanih avtomobilih in celo domofonih.

Njegovo delovanje temelji na kombinaciji prepoznavanja govora, akustičnih modelov, globokih nevronskih mrež in računalništva v oblaku , čeprav obstajajo tudi lokalne alternative umetne inteligence . Tipičen potek dela je mogoče razumeti v več fazah, čeprav ga vsak ponudnik izvaja s svojimi niansami.

Prvič, naprava je v tako imenovanem pasivnem poslušanju ali stanju pripravljenosti . Ne pošilja neprekinjeno vsega zvoka iz sobe v oblak, vendar ohranja mikrofon aktiven, da zazna besedo za prebujanje: »Hej Siri«, »OK Google«, »Alexa« ali kateri koli drug ukaz, ki je primeren za posamezen ekosistem.

Za prepoznavanje budilne besede asistenti zaženejo lokalne algoritme , ki primerjajo zajeti zvok z akustičnimi vzorci, shranjenimi v sami napravi. Ko ugotovijo, da obstaja zadostno ujemanje, se asistent aktivira in od takrat naprej se glasovni ukaz običajno pošlje v oblak v obdelavo.

Ko je ukaz prejet, strežniki uporabijo modele samodejnega prepoznavanja govora (ki so jih v preteklosti navdihovale tehnike, kot so skriti Markovi modeli, zdaj pa jih izboljšujejo nevronske mreže in globoko učenje), da pretvorijo zvok v besedilo in razumejo uporabnikov namen. Na podlagi tega sistem izvede ustrezno dejanje: iskanje informacij, preverjanje vremena, prižig pametne žarnice, začetek klica, upravljanje koledarja ali odgovor na zapleteno vprašanje.

Vzporedno mnogi asistenti uporabljajo strojno učenje in analizo glasovnih vzorcev za izboljšanje natančnosti in personalizacijo izkušnje: prepoznavanje različnih glasov v isti hiši, prilagajanje odzivov vsakemu uporabniku ali boljše prilagajanje prepoznavanja glede na naglas, barvo glasu ali hitrost govora.

Malo zgodovine: od Audrey do Alexe in družbe

Tehnologija prepoznavanja glasu se ni začela s pametnimi zvočniki; razvija se že desetletja. V začetku petdesetih let prejšnjega stoletja je Bell Labs predstavil "Audrey ", sistem, ki je sposoben prepoznati številke od 0 do 9 s skoraj 90-odstotno natančnostjo, vendar le, če jih izgovori njegov ustvarjalec. Bil je rudimentaren, vendar je pomenil začetek linije nenehnih inovacij.

Leta 1961 je IBM predstavil Shoebox , stroj, ki je razumel ne le številke, temveč tudi osnovne ukaze, tudi z nekaj hrupa v ozadju in spremembami v višini tona. V sedemdesetih letih prejšnjega stoletja so projekti, kot so Hearsay-I, Dragon in zlasti Harpy na Univerzi Carnegie Mellon, naredili ogromen korak naprej: Harpy je lahko prepoznaval velike nabore besed s stopnjo natančnosti med 83,5 % in 97,5 %, in to z več govorci, kar je bilo za tisti čas impresivno.

Vzporedno so se postavljali teoretični temelji skritih markovskih modelov (HMM) , ki so bili v osemdesetih letih prejšnjega stoletja izkoriščeni zaradi izboljšav v računalniški procesni moči. To je omogočilo, da so se glasovni sistemi začeli bolje prilagajati različicam človeškega govora.

V devetdesetih letih prejšnjega stoletja so tehnologije, kot je DragonDictate, povprečnemu uporabniku omogočile prepoznavanje glasu v obliki komercialne programske opreme. Od tam naprej je integracija v mobilne naprave, ki ji je sledila eksplozija umetne inteligence in računalništva v oblaku, utrla pot današnjim pomočnikom, kot so Alexa, Siri in Google Assistant, ki postajajo vse bolj naravni in kontekstualni.

Danes so raziskave osredotočene na področja, kot so prepoznavanje govora v realnem času, visoko personalizirano, večjezično , analiziranje čustvenega tona govorca in zagotavljanje takojšnje podpore manjšinskim narečjem. Obstajajo celo predlogi, da bi kvantno računalništvo lahko te procese še pospešilo in doseglo skoraj takojšnje odzive v zelo kompleksnih kontekstih.

Katere podatke zbirajo virtualni asistenti?

Udobje pogovora z napravo ima svojo ceno: ogromna količina osebnih podatkov kroži med mikrofonom, oblakom in več storitvami . Pomočniki, kot so Siri, Alexa, Google Assistant in Cortana, se aktivirajo z glasom, snemajo ukaze in jih pošiljajo na strežnike v obdelavo. Med potjo zajamejo:

• Glasovni posnetki, vključno z nenamernimi aktivacijami in delčki pogovorov, ki mejijo na ukaz.
• Podatki o napravitip terminala, operacijski sistem, identifikatorji, IP naslovregionalne nastavitve itd.
• Ozadje: približna ali natančna lokacija (pri uporabi GPS-a ali Wi-Fi-ja), zgodovina iskanja, dnevne navade, uporaba aplikacij.
• Stiki, koledar, opomniki in klici, ko je uporabnik podelil ta dovoljenja.
• Osebne preference in potrošniške navade, sklepano iz poizvedb, povezanih nakupov, poslušane glasbe, gledanih serij itd.
• Podatki tretjih oseb ki se pogovarjajo v bližini naprave ali z njo komunicirajo, tudi če niso njeni lastniki.

Vsi ti podatki se uporabljajo za izboljšanje natančnosti, personalizacijo odzivov, učenje modelov umetne inteligence in v mnogih primerih za napajanje sistemov za ciljanje oglaševanja in profiliranje . Če se z njimi ne upravlja pravilno, je tveganje vsiljive ali popolnoma nezakonite uporabe očitno.

Shranjevanje, obdelava in profiliranje glasu

V večini primerov glasovni podatki ne ostanejo le na zvočniku ali telefonu. Zvočni delčki se pošljejo na strežnike v oblaku , kjer se shranijo in obdelajo zelo podrobno. To tehnološkim podjetjem omogoča nenehno izboljševanje modelov prepoznavanja in delovanja svojih asistentov, hkrati pa odpira vrata zelo poglobljeni analizi vedenja uporabnikov.

Sodobni sistemi ne samo prepisujejo, kar izgovorimo. Analizirajo edinstvene glasovne značilnosti (barvo glasu, višino tona, ritem, intonacijo), da bi zgradili edinstvene glasovne profile. Ta glasovna biometrija se uporablja za razlikovanje uporabnikov znotraj istega gospodinjstva, personalizacijo odgovorov ali celo za zagotavljanje določene ravni preverjanja pristnosti v občutljivih storitvah, kot sta bančništvo ali zdravstvo.

Prednosti so očitne: asistent lahko prepozna, kdo govori, in prilagodi izkušnjo, priporoči prilagojeno vsebino ali se različno odzove na odraslega in otroka. Hkrati pa lahko ta glasovni podpis razkrije izjemno občutljive podatke : približno starost, spol, čustveno stanje, utrujenost in celo namige, povezane z zdravjem.

Poleg tega podjetja pogosto povezujejo glasovno dejavnost s širšimi podatkovnimi ekosistemi : uporabniškimi računi, zgodovino lokacij, povezanimi domačimi napravami in povezanimi aplikacijami tretjih oseb (na primer storitvami pametnega doma, glasbo, potovanji ali storitvami za skupno rabo prevoza, kot sta Uber ali Lyft). Na ta način glasovni pomočniki postanejo osrednja točka za zbiranje podatkov o uporabnikovem življenjskem slogu.

Brez robustnega šifriranja, nadzora dostopa ter ukrepov za anonimizacijo ali psevdonimizacijo lahko celoten arzenal informacij postane zelo privlačna tarča za kibernetske kriminalce ali, še huje, se lahko na nepregleden način izkoristi za agresivno oglaševanje ali avtomatizirano odločanje brez dejanske vednosti uporabnika.

Resni primeri, ki so sprožili alarm

Družbena zaskrbljenost glede zasebnosti virtualnih asistentov ni teoretična: spodbujajo jo specifični in zelo odmevni incidenti , ki so prišli na dan v zadnjih letih.

Eden najbolj razvpitih primerov se je zgodil leta 2019, ko je Googlov pogodbenik belgijskim medijem, kot je VRT NWS, posredoval posnetke Google Assistant . Ti posnetki naj bi bili uporabljeni za izboljšanje kakovosti storitev s človeškim pregledom, vendar so vsebovali zelo intimne pogovore: komentarje o zdravju, poštne naslove, podrobnosti o zasebnem življenju ...

Belgijski organ za varstvo podatkov je od Googla zahteval, da prekine človeški pregled, dokler ne bo zagotovljena ustrezna zaščita zasebnosti. Primer je pokazal, da čeprav so podjetja trdila, da je bil ročno pregledan le majhen vzorec zvočnih datotek, bi ta vzorec lahko vseboval izjemno občutljivo vsebino.

Drug incident, ki je sprožil razpravo, je bilo pričevanje kriminologinje , ki je na svoji napravi Alexa odkrila posnetke , ki jim ni predhodila beseda za prebujanje. Z drugimi besedami, pogovori so bili shranjeni brez kakršnega koli očitnega neposrednega ukaza, kot je »Alexa«.

Študija Univerze Ruhr v Bochumu in Inštituta Max Planck za varnost in zasebnost je analizirala 11 naprav večjih proizvajalcev in dokumentirala na tisoče nenamernih aktivacij , znanih kot lažno pozitivni rezultati. Ugotovili so, da lahko ti sistemi za prepoznavanje glasu, odvisno od njihove izvedbe, bolj ali manj učinkovito razlikujejo aktivacijske besede, kar povzroči več ali manj napak in s tem večje ali manjše tveganje neželenih posnetkov.

Ti primeri krepijo idejo, da čeprav tehnologija napreduje, natančnost ni popolna in da ima meja napake neposredne posledice za zasebnost . Vsak lažno pozitiven rezultat lahko vključuje del zasebnega pogovora, ki se na koncu shrani in bi ga lahko pregledali, razkrili ali napačno interpretirali.

Varnostne plasti: glasovno preverjanje, zaznavanje gibanja in fizični gumbi

Na mnogih trenutnih napravah se »varnost« uporabe pomočnika opira predvsem na glas kot edino plast preverjanja . To povzroča več težav: kdorkoli v bližini naprave lahko govori z njo, zahteva informacije ali celo izvaja potencialno občutljiva dejanja, če niso konfigurirani dodatni varnostni ukrepi.

Tipičen scenarij: zvočnik Alexa v prazni hiši ali nevarovani počitniški hiši. Če nekdo vstopi, lahko asistenta vpraša za informacije, opravi nakupe ali upravlja naprave interneta stvari preprosto z govorjenjem. Alexa po zasnovi ne zahteva, da je zvočnik lastnik; če prepozna besedo za bujenje, bo ukrepala.

Glede na ta scenarij je bila predlagana rešitev, znana kot virtualni varnostni gumb (gumb VS) , ki bi dodal drugo plast preverjanja na podlagi človeškega gibanja z uporabo tehnologije Wi-Fi. Ideja je, da asistent ne le posluša signal za prebujanje, temveč zazna tudi tipično kinetično gibanje pooblaščene osebe v okolju.

Ta gumb VS bi uporabljal spremembe signalov Wi-Fi za prepoznavanje prisotnosti in gibanja ljudi . V kombinaciji z glasovnim upravljanjem bi omogočil blokiranje dostopa, kadar na primer lastnik naprave ni zaznan ali kadar pride do sumljivega gibanja, s čimer bi se zmanjšala tveganja v scenarijih, kot je vlom v hišo s pametno ključavnico.

Vzporedno nekateri pomočniki vključujejo preproste, a zelo pomembne fizične kontrole , kot so gumbi za utišanje mikrofona ali onemogočanje neprekinjenega poslušanja. Čeprav mnogi uporabniki dajejo prednost udobju in te funkcije vedno pustijo omogočene, je z vidika varnosti in zasebnosti priporočljivo, da v celoti razumete, kako delujejo, in jih uporabljate le, kadar je to potrebno.

Zasebnost že vgrajena in privzeto v pogovornih vmesnikih

Z vidika pravnega in sistemskega sistema je ključni koncept zasebnost že vgrajena in privzeta . To pomeni, da se varstvo podatkov ne doda pozneje kot popravek, temveč je integrirano v samo zasnovo izdelka že od faze zasnove.

Zasebnost že vgrajena pomeni, da razvijalci virtualnih asistentov in klepetalnih robotov že od prvega osnutka upoštevajo, kateri podatki so resnično potrebni, kako bodo zaščiteni in kako dolgo . Ne gre za zbiranje vsega »za vsak slučaj«, temveč za odgovorno načrtovanje. Nekateri patenti in regulativni predlogi že zahtevajo, da tehnologije, kot je umetna inteligenca, izvorno vključujejo različne načine zasebnosti, zasnovane tudi za ekstremne scenarije.

Osrednje načelo je minimizacija podatkov : zbiranje le podatkov, ki so bistveni za delovanje sistema. To dopolnjujejo tehnike anonimizacije in psevdonimizacije, ki so zasnovane tako, da preprečujejo enostavno povezovanje podatkov z določeno osebo, kadar niso potrebni.

Enako pomembna je preglednost . Pogosto so pogoji poslovanja, ki jih sprejmemo pri vzpostavitvi pomočnika – slavni »pogoji poslovanja« Applea, Googla, Amazona ali katerega koli drugega ponudnika – nejasno oblikovani, z drobnim tiskom in tako širokim obsegom, da jih povprečen uporabnik komaj razume.

Privzeta zasebnost pomeni, da če uporabnik ničesar ne spremeni, morajo biti začetne nastavitve čim bolj zaščitne, ne obratno. Z drugimi besedami, sistem bi moral začeti z minimalnim zbiranjem podatkov, z zgodovino brskanja onemogočeno ali z omejenim shranjevanjem in razširiti dovoljenja le, če uporabnik to izrecno zahteva.

Kadar izdelek ni bil zasnovan z mislijo na zasebnost, bi moral proizvajalec resno razmisliti o vključitvi izboljšav, standardnih okvirov in certifikatov , ki zmanjšujejo informacijske vrzeli in ranljivosti. Uporaba skupnega okvira za virtualne asistente bi pomagala zagotoviti, da se ne bomo zanašali zgolj na »dobro voljo« posameznega podjetja.

Pravne obveznosti: GDPR, LOPDGDD in drugi predpisi

V Evropi je glavna referenca Splošna uredba o varstvu podatkov (GDPR) , ki jo v Španiji dopolnjuje Organski zakon o varstvu podatkov in zagotavljanju digitalnih pravic (LOPDGDD). Za podjetja, ki proizvajajo, integrirajo ali ponujajo storitve, ki temeljijo na virtualnih asistentih, so ti predpisi obvezni.

Med najpomembnejšimi obveznostmi sta vgrajena in privzeta zasebnost (25. člen GDPR) , o kateri smo že razpravljali, ter izvedba ocen učinka na varstvo podatkov (DPIA, 35. člen GDPR), kadar se podatki obdelujejo v velikem obsegu ali sistematično z uporabo tehnologij, ki lahko nenehno zajemajo informacije, kot so na primer vedno vklopljeni mikrofoni.

Privolitev mora biti informirana, prostovoljno dana, specifična in nedvoumna . Uporabniki morajo vedeti, kateri podatki se zbirajo, za kakšen namen, kako dolgo in s kom bodo deljeni. Poleg tega mora biti privolitev kadar koli preklicna z enostavnimi mehanizmi.

Potrebne so tudi politike omejevanja shranjevanja : podatkov ni mogoče shranjevati v nedogled brez utemeljitve. Obstajati morajo obdobja hrambe in jasni postopki za varno brisanje, ko podatki niso več potrebni.

Nenazadnje morajo imeti podjetja vzpostavljene protokole za odzivanje na incidente : v primeru kršitve varnosti je treba obvestiti nadzorni organ, v nekaterih primerih pa tudi prizadete uporabnike, ki sprejmejo ukrepe za zmanjšanje škode. V drugih jurisdikcijah, kot je Kalifornija z zakonom CCPA, je pristop podoben: pravica vedeti, kateri podatki se zbirajo, zahtevati njihov izbris in ugovarjati določenim praksam, ki vključujejo prodajo ali prenos informacij.

Pogosta tveganja za zasebnost in varnost

Množična uporaba virtualnih asistentov je pomnožila scenarije, v katerih je lahko ogrožena zasebnost. Ena najpogostejših težav je neselektivno zbiranje podatkov . Mikrofoni lahko zajamejo delčke pogovora, ko uporabnik meni, da je naprava neaktivna, s čimer kršijo načelo GDPR o minimizaciji podatkov.

Drugo očitno tveganje je pomanjkanje preglednosti . Ni vedno jasno, kaj točno se naredi s posnetki, kdo jih lahko posluša, ali se delijo s tretjimi osebami ali se ročno pregledujejo. Brez teh informacij uporabniki nimajo nadzora nad lastno zasebnostjo.

Profiliranje brez pristnega soglasja je še eno kritično vprašanje. Z uporabo asistenta je mogoče iz uporabniške dejavnosti zgraditi zelo podrobne vedenjske profile, kar omogoča ciljno oglaševanje, dinamično prilagajanje cen ali avtomatizirano odločanje. Če uporabnik ni izrecno privolil v to uporabo, so kršeni predpisi.

K vsemu temu so dodana še tveganja za kibernetsko varnost : ranljivosti programske opreme, šibka gesla za povezane račune, nezaščitena omrežja Wi-Fi itd. Vse to lahko privede do nepooblaščenega dostopa do posnetkov, zgodovine iskanja, podatkov o lokaciji ali naprav, povezanih s pomočnikom.

Končno obstaja še praktično vprašanje: težave pri uveljavljanju pravic . Na velikih platformah z porazdeljenimi bazami podatkov uporabnikom ni vedno enostavno najti svojih podatkov, jih izvoziti, izbrisati ali učinkovito omejiti njihove obdelave, čeprav zakon te pravice priznava.

Praktični koraki za zaščito vaše zasebnosti pri uporabi virtualnih asistentov

Čeprav je velik del odgovornosti na podjetjih, lahko uporabniki storijo veliko, da zmanjšajo svojo izpostavljenost in bolje nadzorujejo, kaj delijo, ko uporabljajo Alexa, Siri, Google Assistant ali druge podobne sisteme.

Prvi korak je temeljit pregled nastavitev zasebnosti vaše naprave . Glavne nastavitve vam omogočajo, da prilagodite, kako se vaši podatki zbirajo in uporabljajo. Med najbolj uporabnimi možnostmi bodite pozorni na:

• Onemogočite ali omejite shranjevanje glasovnih posnetkovMnogi pomočniki vam omogočajo, da prenehate shranjevati interakcije v svojem računu ali vsaj skrajšate čas hrambe.
• Nastavite samodejno brisanje zgodovine po določenem obdobju (na primer 3 ali 18 mesecev), da se leta pogovorov ne kopičijo v oblaku.
• Pregled in ročno brisanje starih posnetkov prek plošče z dejavnostmi ali ustrezne aplikacije.
• Nadzorujte, katere aplikacije drugih ponudnikov imajo dostop do podatkov asistenta in preklic dovoljenj, ki niso bistvena.

Prav tako je dobro, da občasno spreminjate gesla za povezane račune, po možnosti omogočite dvostopenjsko preverjanje pristnosti in zagotovite, da se naprava povezuje samo z varnimi omrežji Wi-Fi, pri čemer se izogibajte odprtim omrežjem brez šifriranja.

Drugo osnovno priporočilo je, da se izogibate deljenju posebej občutljivih podatkov prek asistenta , kot so podrobni zdravstveni podatki, gesla, številke dokumentov ali finančni podatki. Čeprav je tehnično izvedljivo, to ni idealen kanal za to, razen če gre za rešitev, posebej zasnovano za ta namen in z izboljšanimi varnostnimi ukrepi.

Če ne želite, da vas zvočnik nenehno posluša, lahko onemogočite glasovno aktivacijo ("Hej Siri", "Alexa" itd.) in pomočnika uporabljate le, ko ga ročno sprožite. Res je, da je manj priročno, vendar odpravi dober del nenamernih aktivacij.

Najboljše tehnične prakse za razvijalce in podjetja

Za tiste, ki oblikujejo ali uvajajo pogovorne vmesnike – pa naj gre za virtualnega zdravstvenega asistenta, finančnega bota ali klepetalni robot za kadrovsko službo – zasebnost ne sme biti stranski dejavnik. Postati mora oblikovalsko merilo, ki je prav tako pomembno kot uporabnost ali zmogljivost.

S tehničnega vidika je bistveno implementirati šifriranje od konca do konca za zaščito podatkov med prenosom in šifriranje v mirovanju za shranjene informacije. Podatkovne baze, ki vsebujejo glasovne zgodovine ali občutljive podatke, morajo biti zaščitene s strogim nadzorom dostopa, dnevniki nadzora in segmentacijo dovoljenj.

Uporaba tehnik anonimizacije in psevdonimizacije pomaga zmanjšati vpliv kršitve varnosti podatkov: če podatki niso neposredno povezani z določljivo osebo, je tveganje manjše. Vendar pa mora biti anonimizacija robustna in preprečevati enostavno ponovno identifikacijo uporabnika.

Na poslovni ravni je bistveno vzpostaviti jasne politike za upravljanje soglasij in nastavitev zasebnosti . Uporabniki bi morali imeti možnost enostavno sprejeti, zavrniti ali spremeniti možnosti z vmesniki, ki jih subtilno ne spodbujajo ("temni vzorci") k prekomernemu deljenju.

Ključnega pomena je tudi notranje usposabljanje: celotna ekipa – razvijalci, produkt, trženje, podpora – potrebuje stalno usposabljanje na področju zasebnosti, varnosti in skladnosti s predpisi . To pomaga preprečiti osnovne napake in zgodaj odkriti potencialno manipulativne ali nepregledne interakcijske zasnove.

Sektorske aplikacije: zdravstvo, finance in kadrovska služba

Ko virtualni asistenti vstopijo v občutljive sektorje, kot so zdravstvo , finance ali upravljanje s kadri, se povpraševanje po zasebnosti močno poveča.

Ponudnik zdravstvenega varstva, ki zbira podatke o simptomih, zdravljenju ali kliničnih informacijah, obravnava še posebej občutljive podatke . V takih primerih so obvezne močno šifriranje, sistematična anonimizacija in izrecna, dobro informirana privolitev. Poleg tega morajo imeti uporabniki jasen nadzor nad tem, kateri podatki se shranjujejo, kdo jih lahko vidi in kako lahko prekličejo svojo privolitev.

V finančnem sektorju mora asistent, ki uporabnikom omogoča preverjanje računov, izvajanje nakazil ali prejemanje investicijskih priporočil, združevati zelo visoko tehnično varnost (šifriranje, večfaktorsko preverjanje pristnosti, zaznavanje anomalij) s strogo politiko zmanjševanja podatkov. Ni smiselno shranjevati več, kot je potrebno, ali mešati finančne podatke z drugimi komercialnimi podatki brez natančnega soglasja.

V kadrovski službi lahko interni klepetalni robot upravlja zahteve za dopust, poizvedbe o plačah ali interne politike . Čeprav se tveganje morda zdi manjše, še vedno vključuje osebne podatke zaposlenih. Podjetje mora omejiti dostop do tega sistema, beležiti, kdo dostopa do katerih informacij, in zagotoviti, da se interakcije ne uporabljajo ponovno za namene, ki niso povezani z delovnim razmerjem, razen če za to obstaja jasna pravna podlaga.

V vseh teh primerih je kombinacija etične zasnove, stroge skladnosti s predpisi in transparentnosti do uporabnikov tista, ki loči uporabno rešitev od časovne bombe, ki škoduje ugledu in zakonitosti.

Virtualni asistenti in pogovorni vmesniki se bodo še naprej širili doma, v službi in v vseh vrstah storitev, toda način, kako bomo danes upravljali zasebnost in varnost osebnih podatkov, bo določil, ali bodo postali zaupanja vredni zavezniki ali stalen vir skrbi. Dajanje prednosti zasebnosti že vgrajeni, resnično omejevanje zbiranja podatkov, izvajanje robustnih varnostnih ukrepov in zahtevanje jasnih pojasnil od tehnoloških podjetij je danes najboljši način, da uživamo v njihovih prednostih, ne da bi pri tem pozabili na nekaj tako temeljnega, kot je nadzor nad lastnimi podatki.