Privatnost kod virtuelnih asistenata: rizici, podaci i kako se zaštititi

Informatec Digital » Resursi » Privatnost kod virtuelnih asistenata: rizici, podaci i kako se zaštititi

Virtualni asistenti su se infiltrirali u naše domove, naše telefone, pa čak i naša radna mjesta, donoseći sa sobom mješavinu nevjerovatne praktičnosti i ozbiljnih problema s privatnošću . Tražimo od Alexe da upali svjetla, od Siri da nas podsjeti na sastanke ili od Google Assistanta za upute, ali rijetko razmišljamo o tome šta se dešava sa svim informacijama koje ostavljamo za sobom.

U međuvremenu, kompanije i programeri grade sve moćnije konverzacijske interfejse , od chatbotova za korisničku podršku do zdravstvenih i finansijskih asistenata . Svi oni se hrane ličnim podacima, od kojih su mnogi vrlo osjetljivi, i djeluju unutar okruženja regulisanog GDPR-om, LOPDGDD-om i drugim zakonima o privatnosti. Tu se stvari komplikuju: kako možemo uživati ​​u ovim tehnologijama, a da ne predamo cijeli svoj život oblaku?

Šta su virtuelni asistenti i kako oni zapravo funkcionišu?

Glasovni asistenti poput Amazon Alexe, Apple Siri, Google Assistanta i Cortane su sistemi zasnovani na vještačkoj inteligenciji i obradi prirodnog jezika (NLP) koji vam omogućavaju da kontrolišete uređaje i usluge pomoću glasa. Nalaze se u pametnim zvučnicima, pametnim telefonima, računarima, povezanim automobilima, pa čak i interfonima.

Njegov rad se oslanja na kombinaciju prepoznavanja govora, akustičkih modela, dubokih neuronskih mreža i računarstva u oblaku , iako postoje lokalne AI alternative . Tipičan tijek rada može se razumjeti u nekoliko faza, iako ga svaki provajder implementira sa svojim nijansama.

Prvo, uređaj se nalazi u onome što se naziva pasivnim slušanjem ili stanjem pripravnosti . Ne šalje kontinuirano sav zvuk iz prostorije u oblak, ali drži mikrofon aktivnim kako bi detektovao riječ za buđenje: "Hej Siri", "OK Google", "Alexa" ili bilo koju komandu koja je prikladna za svaki ekosistem.

Da bi prepoznali riječ za buđenje, asistenti pokreću lokalne algoritme koji upoređuju snimljeni zvuk sa akustičnim obrascima pohranjenim na samom uređaju. Kada utvrde da postoji dovoljno podudaranje, asistent se aktivira i od tog trenutka nadalje, glasovna komanda se obično šalje u oblak na obradu.

Nakon što prime komandu, serveri primjenjuju modele automatskog prepoznavanja govora (historijski inspirisane tehnikama kao što su Skriveni Markovljevi Modeli, a sada poboljšane neuronskim mrežama i dubokim učenjem) kako bi pretvorili zvuk u tekst i razumjeli namjeru korisnika. Na osnovu toga, sistem izvršava odgovarajuću radnju: pretraživanje informacija, provjeru vremenske prognoze, paljenje pametne sijalice, pokretanje poziva, upravljanje kalendarom ili odgovaranje na složeno pitanje.

Paralelno s tim, mnogi asistenti koriste mašinsko učenje i analizu glasovnih obrazaca kako bi poboljšali tačnost i personalizirali iskustvo: prepoznavanjem različitih glasova u istoj kući, prilagođavanjem odgovora svakom korisniku ili boljim podešavanjem prepoznavanja na osnovu akcenta, boje glasa ili brzine govora.

Malo historije: od Audrey do Alexa i kompanije

Tehnologija prepoznavanja glasa nije započela s pametnim zvučnicima; razvija se već decenijama. Početkom 50-ih, Bell Labs je predstavio "Audrey ", sistem sposoban da prepozna brojeve od 0 do 9 sa skoro 90% tačnosti, ali samo kada ih izgovori njegov tvorac. Bio je rudimentaran, ali je označio početak linije kontinuiranih inovacija.

Godine 1961. IBM je lansirao Shoebox , mašinu koja je razumjela ne samo brojeve već i osnovne komande, čak i uz određenu pozadinsku buku i varijacije u visini tona. Tokom 70-ih, projekti poput Hearsay-I, Dragon, a posebno Harpy na Univerzitetu Carnegie Mellon, napravili su ogroman skok naprijed: Harpy je mogao prepoznati velike skupove riječi sa stopom tačnosti između 83,5% i 97,5%, i to je činio sa više govornika, što je bilo impresivno za to vrijeme.

Paralelno s tim, uspostavljane su teorijske osnove skrivenih Markovljevih modela (HMM) , koji će biti iskorišteni 80-ih zahvaljujući poboljšanjima u procesorskoj snazi ​​računara. To je omogućilo glasovnim sistemima da se počnu bolje prilagođavati varijacijama u ljudskom govoru.

Tokom 90-ih, tehnologije poput DragonDictatea donijele su prepoznavanje glasa prosječnom korisniku u obliku komercijalnog softvera. Od tada, integracija u mobilne uređaje, nakon čega je uslijedila eksplozija umjetne inteligencije i računarstva u oblaku, utrla je put današnjim asistentima poput Alexe, Sirija i Google Assistanta, koji postaju sve prirodniji i kontekstualni.

Danas su istraživanja usmjerena na područja kao što su prepoznavanje govora u stvarnom vremenu, visoko personalizirano, višejezično , analiziranje emocionalnog tona govornika i pružanje neposredne podrške za manjinske dijalekte. Postoje čak i sugestije da bi kvantno računarstvo moglo dodatno ubrzati ove procese, postižući gotovo trenutne odgovore u vrlo složenim kontekstima.

Koje podatke prikupljaju virtuelni asistenti?

Pogodnost razgovora s uređajem ima svoju cijenu: ogromna količina ličnih podataka cirkuliše između mikrofona, oblaka i više servisa . Asistenti poput Siri, Alexe, Google Assistanta i Cortane aktiviraju se glasom, snimaju komande i šalju ih serverima na obradu. Usput, oni bilježe:

• Glasovni snimci, uključujući slučajne aktivacije i fragmente razgovora uz komandu.
• Podaci uređajatip terminala, operativni sistem, identifikatori, IP adresaregionalne postavke, itd.
• Informacije o kontekstu: približna ili precizna lokacija (pri korištenju GPS-a ili Wi-Fi-ja), historija pretraživanja, dnevne navike, korištenje aplikacija.
• Kontakti, kalendar, podsjetnici i pozivi, kada je korisnik odobrio te dozvole.
• Lične preferencije i potrošačke navike, izvedeno iz upita, povezanih kupovina, slušane muzike, gledanih serija itd.
• Podaci trećih strana koji razgovaraju u blizini uređaja ili komuniciraju s njim čak i ako nisu vlasnici.

Svi ovi podaci se koriste za poboljšanje tačnosti, personalizaciju odgovora, obuku AI modela i, u mnogim slučajevima, za opskrbu sistema za ciljanje oglašavanja i profiliranje . Ako se ne upravljaju pravilno, rizik od nametljive ili potpuno ilegalne upotrebe je jasan.

Pohranjivanje, obrada i profiliranje glasa

U većini slučajeva, glasovni podaci ne ostaju samo na zvučniku ili telefonu. Audio isječci se šalju na cloud servere , gdje se pohranjuju i obrađuju vrlo detaljno. To omogućava tehnološkim kompanijama da kontinuirano poboljšavaju modele prepoznavanja i performanse svojih asistenata, ali također otvara vrata vrlo dubokoj analizi ponašanja korisnika.

Moderni sistemi ne samo da transkribuju ono što govorimo. Oni analiziraju jedinstvene karakteristike glasa (boju tona, visinu tona, ritam, intonaciju) kako bi izgradili jedinstvene vokalne profile. Ova glasovna biometrija se koristi za razlikovanje korisnika unutar istog domaćinstva, personalizaciju odgovora ili čak za ponudu određenog nivoa autentifikacije u osjetljivim uslugama, kao što su bankarstvo ili zdravstvo.

Prednosti su jasne: asistent može prepoznati ko govori i prilagoditi iskustvo, preporučiti prilagođeni sadržaj ili drugačije reagirati na odraslu osobu i dijete. Ali istovremeno, ovaj glasovni potpis može otkriti izuzetno osjetljive informacije : približnu dob, spol, emocionalno stanje, umor, pa čak i znakove vezane za zdravlje.

Osim toga, kompanije često povezuju glasovnu aktivnost sa širim ekosistemima podataka : korisničkim računima, historijom lokacija, povezanim kućnim uređajima i povezanim aplikacijama trećih strana (na primjer, uslugama pametnog doma, muzikom, putovanjima ili uslugama dijeljenja vožnje poput Ubera ili Lyfta). Na taj način, glasovni asistenti postaju centralna tačka za prikupljanje podataka o načinu života korisnika.

Bez robusne enkripcije, kontrole pristupa i mjera anonimizacije ili pseudonimizacije , cijeli ovaj arsenal informacija može postati vrlo atraktivna meta za cyber kriminalce ili, još gore, biti iskorišten na neprozirne načine za agresivno oglašavanje ili automatizirano donošenje odluka bez stvarnog znanja korisnika.

Pravi slučajevi koji su izazvali uzbunu

Društvena zabrinutost zbog privatnosti virtuelnih asistenata nije teoretska: podstiču je specifični i veoma medijski poznati incidenti koji su izašli na vidjelo posljednjih godina.

Jedan od najozloglašenijih slučajeva dogodio se 2019. godine, kada je Googleov izvođač radova procurio snimke Google asistenta belgijskim medijima poput VRT NWS. Ovi snimci su navodno korišteni za poboljšanje kvalitete usluge putem ljudskog pregleda, ali su uključivali vrlo intimne razgovore: komentare o zdravlju, poštanskim adresama, detaljima privatnog života...

Belgijska agencija za zaštitu podataka zahtijevala je od Googlea da obustavi ljudsku provjeru dok se ne garantuje adekvatna zaštita privatnosti. Slučaj je otkrio da, iako su kompanije tvrdile da je ručno pregledan samo mali uzorak audio datoteka, taj uzorak može sadržavati izuzetno osjetljiv sadržaj.

Još jedan incident koji je izazvao debatu bilo je svjedočenje kriminologinje koja je otkrila snimke na svom Alexa uređaju kojima nije prethodila riječ za buđenje. Drugim riječima, razgovori su pohranjeni bez ikakve očigledne direktne komande poput „Alexa“.

Studija Univerziteta Ruhr u Bochumu i Instituta Max Planck za sigurnost i privatnost analizirala je 11 uređaja velikih proizvođača i dokumentirala hiljade nenamjernih aktivacija , poznatih kao lažno pozitivni rezultati. Zaključili su da ovi sistemi za prepoznavanje glasa, ovisno o njihovoj implementaciji, mogu manje ili više efikasno razlikovati riječi za aktivaciju, što rezultira većim ili manjim brojem grešaka i, stoga, većim ili manjim rizikom od neželjenih snimaka.

Ovi slučajevi pojačavaju ideju da, iako tehnologija napreduje, tačnost nije savršena i da margina greške ima direktne posljedice po privatnost . Svaki lažno pozitivan rezultat potencijalno uključuje dio privatnog razgovora koji se na kraju pohranjuje i mogao bi biti pregledan, procuriti ili pogrešno protumačen.

Sigurnosni slojevi: glasovna verifikacija, detekcija pokreta i fizički tasteri

Na mnogim trenutnim uređajima, "sigurnost" korištenja asistenta se prvenstveno oslanja na glas kao jedini sloj verifikacije . To stvara nekoliko problema: svako ko je u blizini uređaja može razgovarati s njim, tražiti informacije ili čak izvoditi potencijalno osjetljive radnje ako nisu konfigurirane dodatne sigurnosne mjere.

Tipičan scenario: Alexa zvučnik u praznoj kući ili nečuvanoj vikendici. Ako neko uđe, može tražiti informacije od asistenta, obavljati kupovine ili kontrolisati IoT uređaje jednostavnim govorom. Alexa, po svojoj prirodi, ne zahtijeva da govornik bude vlasnik; ako prepozna riječ za buđenje, reagirat će.

S obzirom na ovaj scenario, predloženo je rješenje poznato kao Virtual Security Button (VS button) , koje bi dodalo drugi sloj verifikacije zasnovan na ljudskom kretanju korištenjem Wi-Fi tehnologije. Ideja je da asistent ne samo da sluša riječ za buđenje, već i detektuje tipično kinetičko kretanje ovlaštene osobe u okruženju.

Ovo VS dugme bi koristilo varijacije u Wi-Fi signalima za identifikaciju prisustva i kretanja ljudi . U kombinaciji s glasovnom kontrolom, omogućilo bi blokiranje pristupa kada, na primjer, vlasnik uređaja nije otkriven ili kada postoji sumnjivo kretanje, čime bi se smanjili rizici u scenarijima poput provale u kuću s pametnom bravom.

Paralelno s tim, neki asistenti uključuju jednostavne, ali vrlo relevantne fizičke kontrole , poput dugmadi za isključivanje mikrofona ili onemogućavanje neprekidnog slušanja. Iako mnogi korisnici daju prioritet praktičnosti i ostavljaju ove funkcije uvijek omogućenim, sa stanovišta sigurnosti i privatnosti, preporučljivo je u potpunosti razumjeti kako one funkcionišu i koristiti ih samo kada je to potrebno.

Privatnost po dizajnu i po zadanim postavkama u konverzacijskim interfejsima

Sa pravne i sistemske perspektive, ključni koncept je privatnost po dizajnu i po zadanim postavkama . To znači da se zaštita podataka ne dodaje kasnije kao zakrpa, već je integrirana u sam dizajn proizvoda od faze koncepcije.

Privatnost po dizajnu znači da programeri virtuelnih asistenata i chatbotova, od prvog nacrta, razmatraju koji su podaci zaista potrebni, kako će biti zaštićeni i koliko dugo . Ne radi se o prikupljanju svega "za svaki slučaj", već o odgovornom planiranju. Neki patenti i regulatorni prijedlozi već zahtijevaju da tehnologije poput vještačke inteligencije izvorno uključuju različite načine privatnosti, dizajnirane čak i za ekstremne scenarije.

Osnovni princip je minimizacija podataka : prikupljanje samo podataka koji su neophodni za funkcionisanje sistema. Ovo je dopunjeno tehnikama anonimizacije i pseudonimizacije, osmišljenim da spriječe lako povezivanje podataka sa određenom osobom kada to nije potrebno.

Podjednako važna je i transparentnost . Često su uslovi i odredbe koje prihvatamo prilikom podešavanja asistenta - poznati "Uslovi i odredbe" Applea, Googlea, Amazona ili bilo kojeg drugog provajdera - nejasno formulisani, sa sitnim slovima i tako širokim opsegom da ih prosječan korisnik jedva razumije.

Privatnost po zadanim postavkama znači da, ako korisnik ništa ne promijeni, početne postavke trebaju biti što je moguće zaštitnije, a ne obrnuto. Drugim riječima, sistem bi trebao početi s minimalnim prikupljanjem podataka, s onemogućenom historijom pregledavanja ili s ograničenim zadržavanjem, te proširivati ​​dozvole samo kada korisnik to izričito zatraži.

Kada proizvod nije dizajniran imajući na umu privatnost, proizvođač bi trebao ozbiljno razmotriti uključivanje poboljšanja, standardnih okvira i certifikata koji smanjuju praznine u informacijama i ranjivosti. Primjena zajedničkog okvira na virtualne asistente pomogla bi da se osiguramo da se ne oslanjamo isključivo na "dobru volju" svake kompanije.

Pravne obaveze: GDPR, LOPDGDD i drugi propisi

U Evropi, primarna referenca je Opšta uredba o zaštiti podataka (GDPR) , koja je u Španiji dopunjena Organskim zakonom o zaštiti podataka i garanciji digitalnih prava (LOPDGDD). Za kompanije koje proizvode, integrišu ili nude usluge zasnovane na virtuelnim asistentima, ovi propisi su obavezni.

Među najrelevantnijim obavezama su privatnost po dizajnu i po zadanim postavkama (član 25. GDPR-a) , o čemu smo već raspravljali, te provođenje procjena utjecaja na zaštitu podataka (DPIA, član 35. GDPR-a) kada se podaci obrađuju u velikim razmjerima ili sistematski korištenjem tehnologija koje mogu stalno prikupljati informacije, poput uvijek uključenih mikrofona.

Saglasnost mora biti informirana, data slobodno, specifična i nedvosmislena . Korisnici moraju znati koji se podaci prikupljaju, u koju svrhu, koliko dugo i s kim će se dijeliti. Nadalje, saglasnost mora biti opozivna u bilo kojem trenutku putem jednostavnih mehanizama.

Također su potrebne politike ograničenja pohrane : podaci se ne mogu čuvati neograničeno bez opravdanja. Moraju postojati periodi čuvanja i jasne procedure za sigurno brisanje kada informacije više nisu potrebne.

Konačno, kompanije moraju imati uspostavljene protokole za reagovanje na incidente : u slučaju kršenja sigurnosti, nadzorni organ mora biti obaviješten, a u određenim slučajevima i sami pogođeni korisnici moraju biti obaviješteni, poduzimajući mjere za ublažavanje štete. U drugim jurisdikcijama, poput Kalifornije sa CCPA, pristup je sličan: pravo da se zna koji se podaci prikupljaju, da se zatraži njihovo brisanje i da se prigovori na određene prakse koje uključuju prodaju ili prijenos informacija.

Uobičajeni rizici za privatnost i sigurnost

Masovna upotreba virtuelnih asistenata umnožila je scenarije u kojima privatnost može biti ugrožena. Jedan od najčešćih problema je neselektivno prikupljanje podataka . Mikrofoni mogu snimiti dijelove razgovora kada korisnik vjeruje da je uređaj neaktivan, čime se krši princip minimizacije podataka iz GDPR-a.

Još jedan očigledan rizik je nedostatak transparentnosti . Nije uvijek jasno šta se tačno radi sa snimcima, ko ih može slušati, da li se dijele s trećim stranama ili se ručno pregledavaju. Bez ovih informacija, korisnici nemaju kontrolu nad vlastitom privatnošću.

Profiliranje bez istinskog pristanka je još jedno kritično pitanje. Vrlo detaljni profili ponašanja mogu se izgraditi iz aktivnosti korisnika pomoću asistenta, omogućavajući ciljano oglašavanje, dinamičko prilagođavanje cijena ili automatizirano donošenje odluka. Ako korisnik nije izričito pristao na ovu upotrebu, krše se propisi.

Svemu ovome se dodaju rizici po sajber sigurnost : softverske ranjivosti, slabe lozinke za povezane račune, nezaštićene Wi-Fi mreže itd. Sve ovo može dovesti do neovlaštenog pristupa snimcima, historiji pretraživanja, podacima o lokaciji ili uređajima povezanim s asistentom.

Konačno, postoji i praktično pitanje: poteškoće u ostvarivanju prava . Na velikim platformama s distribuiranim bazama podataka, korisnicima nije uvijek lako pronaći svoje podatke, izvesti ih, izbrisati ili efikasno ograničiti njihovu obradu, iako zakon priznaje ta prava.

Praktični koraci za zaštitu vaše privatnosti prilikom korištenja virtualnih asistenata

Iako veliki dio odgovornosti leži na kompanijama, korisnici mogu mnogo učiniti kako bi smanjili svoju izloženost i bolje kontrolisali ono što dijele kada koriste Alexu, Siri, Google Assistant ili druge slične sisteme.

Prvi korak je da detaljno pregledate postavke privatnosti vašeg uređaja . Glavne postavke vam omogućavaju da prilagodite način prikupljanja i korištenja vaših podataka. Među najkorisnijim opcijama, obratite pažnju na:

• Onemogućite ili ograničite pohranu glasovnih snimakaMnogi asistenti vam omogućavaju da zaustavite spremanje interakcija na vaš račun ili barem smanjite vrijeme zadržavanja.
• Postavite automatsko brisanje historija nakon određenog perioda (na primjer, 3 ili 18 mjeseci), tako da se godine razgovora ne akumuliraju u oblaku.
• Pregledajte i ručno izbrišite stare snimke putem panela aktivnosti ili odgovarajuće aplikacije.
• Kontrolirajte koje aplikacije trećih strana imaju pristup do podataka asistenta i opozvati dozvole koje nisu neophodne.

Također je dobra ideja periodično mijenjati lozinke za povezane račune, omogućiti dvofaktorsku autentifikaciju kad god je to moguće i osigurati da se uređaj povezuje samo na sigurne Wi-Fi mreže, izbjegavajući otvorene mreže bez enkripcije.

Još jedna osnovna preporuka je izbjegavanje dijeljenja posebno osjetljivih podataka putem asistenta , kao što su detaljne medicinske informacije, lozinke, brojevi dokumenata ili finansijski podaci. Iako je tehnički moguće, to nije idealan kanal za to, osim ako se ne radi o rješenju posebno dizajniranom za tu svrhu i s poboljšanim sigurnosnim mjerama.

Konačno, ako ne želite da govornik stalno sluša, možete onemogućiti glasovnu aktivaciju („Hej Siri“, „Alexa“ itd.) i koristiti asistenta samo kada ga ručno pokrenete. Manje je praktično, da, ali eliminira dobar dio slučajnih aktivacija.

Najbolje tehničke prakse za programere i kompanije

Za one koji dizajniraju ili implementiraju konverzacijske interfejse - bilo da se radi o virtualnom zdravstvenom asistentu, financijskom botu ili HR chatbotu - privatnost ne smije biti sporedna stvar. Mora biti kriterij dizajna jednako važan kao i upotrebljivost ili performanse.

Sa tehničkog stanovišta, ključno je implementirati end-to-end enkripciju kako bi se zaštitili podaci u tranzitu i enkripciju u stanju mirovanja za pohranjene informacije. Baze podataka koje sadrže glasovne historije ili osjetljive podatke moraju biti zaštićene strogim kontrolama pristupa, zapisnicima revizije i segmentacijom dozvola.

Korištenje tehnika anonimizacije i pseudonimizacije pomaže u smanjenju utjecaja kršenja podataka: ako podaci nisu direktno povezani s prepoznatljivom osobom, rizik je manji. Međutim, anonimizacija mora biti robusna, sprječavajući laku ponovnu identifikaciju korisnika.

Na poslovnom nivou, važno je uspostaviti jasne politike za upravljanje pristankom i preferencijama privatnosti . Korisnici bi trebali moći lako prihvatiti, odbiti ili izmijeniti opcije, s interfejsima koji ih suptilno ne podstiču („tamni obrasci“) na prekomjerno dijeljenje.

Interna obuka je također ključna: cijeli tim - programeri, proizvod, marketing, podrška - treba kontinuiranu obuku o privatnosti, sigurnosti i usklađenosti s propisima . Ovo pomaže u izbjegavanju osnovnih grešaka i ranom otkrivanju potencijalno manipulativnih ili neprozirnih dizajna interakcije.

Sektorske primjene: zdravstvo, finansije i ljudski resursi

Kada virtuelni asistenti uđu u osjetljive sektore poput zdravstva , finansija ili upravljanja osobljem, nivo potražnje za privatnošću naglo raste.

Pružalac zdravstvene zaštite koji prikuplja informacije o simptomima, tretmanima ili kliničkim informacijama rukuje posebno osjetljivim podacima . U takvim slučajevima, obavezna je jaka enkripcija, sistematska anonimizacija i eksplicitan, dobro informiran pristanak. Nadalje, korisnici moraju imati jasnu kontrolu nad tim koje se informacije pohranjuju, ko ih može vidjeti i kako mogu povući svoj pristanak.

U finansijskom sektoru, asistent koji korisnicima omogućava provjeru računa, transfere ili primanje investicijskih preporuka mora kombinirati vrlo visoku tehničku sigurnost (šifriranje, višefaktorsku autentifikaciju, otkrivanje anomalija) sa strogom politikom minimizacije podataka. Nema smisla pohranjivati ​​više nego što je potrebno ili miješati finansijske podatke s drugim komercijalnim podacima bez detaljnog pristanka.

U ljudskim resursima, interni chatbot može upravljati zahtjevima za godišnji odmor, upitima o platnim listama ili internim politikama . Iako se rizik može činiti manjim, on i dalje uključuje lične podatke zaposlenika. Kompanija mora ograničiti pristup ovom sistemu, evidentirati ko pristupa kojim informacijama i osigurati da se interakcije ne koriste ponovo u svrhe koje nisu povezane s radnim odnosom, osim ako za to ne postoji jasna pravna osnova.

U svim ovim slučajevima, kombinacija etičkog dizajna, strogog poštivanja propisa i transparentnosti prema korisnicima je ono što čini razliku između korisnog rješenja i tempirane bombe koja utiče na ugled i legalnost.

Virtualni asistenti i konverzacijski interfejsi će se nastaviti širiti kod kuće, na poslu i u svim vrstama usluga, ali način na koji danas upravljamo privatnošću i sigurnošću ličnih podataka odredit će hoće li oni postati pouzdani saveznici ili stalni izvor brige. Davanje prioriteta privatnosti po dizajnu, istinsko ograničavanje prikupljanja podataka, implementacija robusnih sigurnosnih mjera i zahtijevanje jasnih objašnjenja od tehnoloških kompanija danas je najbolji način da uživamo u njihovim prednostima, a da ne izgubimo iz vida nešto tako fundamentalno kao što je kontrola nad vlastitim informacijama.